Mehr Sicherheit für generative KI und LLMs

Mehr Sicherheit für generative KI und LLMs

Beitrag teilen

Unternehmen können es sich nicht leisten, generative KI und ihr Potenzial zu ignorieren. Sie benötigen jedoch eine umfassende KI-Observability, damit Investitionen in generative KI erfolgreich sind und Risiken vermieden werden.

Dynatrace hat seine Analyse- und Automatisierungsplattform um ganzheitliche Observability und Security für LLMs und generative KI-gestützte Anwendungen erweitert. Dynatrace AI Observability ermöglicht es Unternehmen weltweit, generative KI zuverlässig und kosteneffizient zu nutzen, um damit ihre Innovationskraft, Produktivität und ihren Umsatz zu steigern.

Die wichtigsten Plattformen werden unterstützt

Dynatrace AI Observability ist eine umfassende Lösung. Sie deckt den End-to-End-KI-Stack ab, einschließlich Infrastruktur wie Nvidia GPUs, grundlegende Modelle wie GPT4, semantische Caches und Vektordatenbanken wie Weaviate sowie Orchestrierungs-Frameworks wie LangChain. Zusätzlich unterstützt Dynatrace AI Observability die wichtigsten Plattformen für die Erstellung, das Training und die Bereitstellung von KI-Modellen, einschließlich Microsoft Azure OpenAI Service, Amazon SageMaker und Google AI Platform.

Dynatrace AI Observability nutzt die Davis AI und weitere Kerntechnologien der Plattform, um einen präzisen und umfassenden Überblick über KI-gesteuerte Anwendungen zu liefern. So können Unternehmen ein hervorragendes Nutzererlebnis bieten und gleichzeitig automatisch Leistungsengpässe und deren Ursachen identifizieren. Dynatrace AI Observability mit Davis AI unterstützt ebenfalls bei der Einhaltung von Datenschutz- und Sicherheitsrichtlinien sowie Governance-Standards, indem es die Herkunft der von den Anwendungen erzeugten Daten genauestens nachverfolgt. Darüber hinaus erhalten Unternehmen Hilfe bei der Kostenprognose und -kontrolle, indem die Dynatrace-Plattform den Verbrauch von Token überwacht. Token bilden die Basiseinheiten, die generative KI-Modelle zur Verarbeitung von Anfragen verwenden.

Unternehmen haben zunehmendes Interesse an generativer KI

Gartner prognostiziert, dass die Einführung von KI bis 2028 dazu führen wird, dass mehr als 50 Prozent der Cloud-Computing-Ressourcen für KI-Workloads verwendet werden, gegenüber weniger als 10 Prozent im Jahr 2023. Dieses Wachstum spiegelt in Teilen das steigende Interesse der Unternehmen in den Einsatz von generativer KI wider, um die Effizienz und Produktivität zu verbessern, die Automatisierung voranzutreiben und Innovationen zu fördern. Trotz dieser Dynamik sind viele Unternehmen auch besorgt über die Kosten, die mit generativen KI-gestützten Diensten verbunden sind. Diese können um ein Vielfaches höher liegen als bei herkömmlichen Cloud-Diensten und lassen sich nur schwer vorhersagen. Sie basieren auf dem Verbrauch generativer KI-Tokens durch Anwendungen, die noch nicht in Produktion sind. Gleichzeitig führen Regierungen weltweit Vorschriften ein, die den Einsatz von KI-Technologien auf verantwortungsvolle und ethische Weise sowie unter Einhaltung der geltenden Gesetze regeln sollen.

„Generative KI ist die neue Grenzlinie zur digitalen Transformation“, sagt Bernd Greifeneder, CTO bei Dynatrace. „Diese Technologie ermöglicht es Unternehmen, innovative Lösungen zu entwickeln, die Produktivität, Rentabilität und Wettbewerbsfähigkeit steigern. Während sie die Transformation vorantreibt, entstehen neue Herausforderungen bei der Sicherheit, Transparenz, Zuverlässigkeit, Erfahrung und beim Kostenmanagement. Um diese Herausforderungen zu meistern, benötigen Unternehmen eine KI-Observabilty-Funktion, die jeden Aspekt ihrer generativen KI-Lösungen abdeckt. Dynatrace baut seine Marktführerschaft in Sachen Observabilty und KI aus, um diesem Bedarf gerecht zu werden und Kunden dabei zu unterstützen, KI vertrauensvoll und sicher mit tiefen Einblicken in ihre generativen KI-getriebenen Anwendungen zu nutzen.“

Generative KI treibt weltweit die Produktivität an

„Generative und prädiktive KI wird unseren Geschäftsaktivitäten mit unseren ML- und LLM-Services neue Möglichkeiten eröffnen. Um sie jedoch erfolgreich zu implementieren, müssen wir sicherstellen, dass unsere Services, die diese kritischen Workloads unterstützen, zuverlässig sind und gut funktionieren“, so Ryan Berry, SVP Engineering & Architecture bei OneStream. „Deshalb verlassen wir uns auf Dynatrace. Unsere Teams nutzen Dynatrace, um generative KI-Apps zu entwickeln und zu optimieren, die gut funktionieren, sich kosteneffizient verwalten lassen und in großem Umfang bereitzustellen sind.”

„Die KI-gestützte Transformation ist ein wichtiger Treiber für die Produktivität und Wettbewerbsfähigkeit von Unternehmen weltweit”, sagt Ali Dalloul, VP, AI, Microsoft. „Microsoft Azure OpenAI Service ist eine robuste generative KI-Lösung für Unternehmen und öffentliche Einrichtungen auf der ganzen Welt. Wir freuen uns über die Partnerschaft mit Dynatrace, einem führenden Anbieter von KI-gestützter Observability. So können unsere gemeinsamen Kunden und deren Teams, die in den größten Organisationen der Welt Innovationen vorantreiben, generative KI-basierte Dienste mit Azure Open AI Service und Dynatrace AI Observability erstellen. Diese leistungsstarke Kombination trägt dazu bei, dass diese Dienste die höchsten Sicherheits-, Zuverlässigkeits- und Leistungsstandards erreichen, während die sie verwaltenden Teams die Kosten kontrollieren können.“

Mehr bei Dynatrace.com

 


Über Dynatrace

Dynatrace sorgt dafür, dass Software weltweit perfekt funktioniert. Unsere einheitliche Software-Intelligence-Plattform kombiniert breite und tiefe Observability und kontinuierliche Run-Time Application-Security mit den fortschrittlichsten AIOps, um Antworten und intelligente Automatisierung aus Daten in bemerkenswertem Umfang zu liefern. Dies ermöglicht es Unternehmen, den Cloud-Betrieb zu modernisieren und zu automatisieren, Software schneller und sicherer bereitzustellen und makellose digitale Erlebnisse zu gewährleisten.


Passende Artikel zum Thema

Gut aufgestellt für NIS2

Auf viele Unternehmen kommen in puncto Cybersicherheit ab 2024 neue Herausforderungen zu. Die Network and Information Security Directive 2, kurz ➡ Weiterlesen

QR-Code-Phishing mit ASCII-Zeichen

Sicherheitsforscher von Check Point haben eine neue Art des QR-Code-Phishing („Quishing“ genannt) entdeckt, mit der Angreifer auf geschickte Weise OCR-Systeme umgehen. ➡ Weiterlesen

Cyberversicherungen liegen im Trend

Cyberversicherungen liegen im Trend: Ein Anbieter von Security Operations veröffentlicht die Ergebnisse seines jährlichen State of Cybersecurity: 2024 Trends Report. ➡ Weiterlesen

Ransomware: Verschlüsselte Backups – verdoppeltes Lösegeld 

Wenn das Backup beim Ransomware-Angriff zum Problem wird: Cyberkriminelle richten ihre Verschlüsselungstaten auch auf Backups aus. Warum? Weil so noch ➡ Weiterlesen

MDR kombiniert KI und rund um die Uhr Support

Darktrace hat sein neues Serviceangebot Darktrace Managed Detection & Response (MDR) gestartet. Der Service unterstützt die internen Sicherheitsteams mit KI-basierter ➡ Weiterlesen

CISO Umfrage: Die meisten Unternehmen zahlen bei Ransomware

Im Voice of the CISO Report gaben über die Hälfte der befragten CISOs aus deutschen Unternehmen an, dass sie im ➡ Weiterlesen

Starke Zunahme bei Malware-, BEC- und QR-Code-Phishing-Angriffen

Der aktuelle E-Mail Threat Landscape Report von Trend Micro zeigt eine starke Zunahme von Malware-, BEC- und QR-Code-Phishing-Angriffen auf Unternehmen. ➡ Weiterlesen

Authentifizierung völlig ohne Passwörter

Passwörter waren gestern. Mit "Passwordless 360°" können sich alle  Kunden, Mitarbeiter, Partner, Geschäftskunden und Lieferanten eines Unternehmens mit einer einzigen ➡ Weiterlesen