Sicherheit in KI-Lösungen und Large Language Models

Sicherheit in KI-Lösungen und Large Language Models

Beitrag teilen

Ein Unternehmen für Exposure-Management, gab die Veröffentlichung von AI Aware bekannt, einer hochentwickelten Erkennungsfunktion, die schnell feststellen kann, ob Lösungen für künstliche Intelligenz im Einsatz sind und ob KI-bezogene Schwachstellen und Sicherheitsschwächen vorliegen.

Tenable AI Aware liefert Erkenntnisse über Sicherheitslücken in KI-Anwendungen, -Bibliotheken und -Plugins, so dass Unternehmen KI-Risiken zuverlässig identifizieren und beseitigen können, ohne den Geschäftsbetrieb zu beeinträchtigen. Die rasante Entwicklung und Akzeptanz von KI-Technologien in den letzten zwei Jahren hat große Cybersecurity- und Compliance-Risiken mit sich gebracht, denen Unternehmen begegnen müssen, ohne dabei auf bewährte Best Practices zurückgreifen zu können. Folglich stehen Cybersecurity-Teams vor erheblichen Herausforderungen im Zusammenhang mit KI, beispielsweise bei der Erkennung und Behebung von Schwachstellen, der Eindämmung von Datenlecks und der Unterbindung unbefugter KI-Nutzung.

Anzeige

Schwachstellen in KI

Laut aktuellen Forschungsergebnissen von Tenable stellen mehr als ein Drittel der Sicherheitsteams fest, dass in ihrer Umgebung KI-Anwendungen eingesetzt werden, die möglicherweise nicht mittels formaler Prozesse bereitgestellt wurden. So fand Tenable in einem Zeitraum von 75 Tagen zwischen Ende Juni und Anfang September über 9 Millionen Instanzen von KI-Anwendungen auf mehr als 1 Million Hosts. Das Cybersecurity-Risiko einer uneingeschränkten KI-Nutzung wird durch die zunehmende Zahl von KI-Schwachstellen noch verschärft. Tenable Research hat mehrere Schwachstellen in KI-Lösungen gefunden und veröffentlicht, unter anderem in Microsoft Copilot, Flowise und Langflow.

Mit AI Aware transformiert Tenable die proaktive Sicherheit für KI-Lösungen. Tenable AI Aware setzt Agents, passives Netzwerk-Monitoring, dynamisches Testen der Anwendungssicherheit und verteilte Scan-Engines gezielt dazu ein, zugelassene und nicht zugelassene KI-Software, KI-Bibliotheken und KI‑Browser-Plugins zu erkennen und die damit verbundenen Schwachstellen aufzuspüren, um so die Risiken von Ausnutzung, Datenlecks und unberechtigtem Ressourcenverbrauch zu reduzieren. Die kombinierte Bandbreite dieser verschiedenen Bewertungsmethoden ermöglicht die umfassendste Erkennung von KI im modernen Ökosystem.

Funktionen für KI-Lösungen

„In dem Bestreben, mit dem durch KI eingeleiteten Wandel Schritt zu halten, sind Unternehmen auf der ganzen Welt mit voller Geschwindigkeit vorausgeeilt und haben dabei möglicherweise zahllose Risiken in Bezug auf Cybersicherheit, Datenschutz und Compliance übersehen“, so Shai Morag, Chief Product Officer bei Tenable. „Mehr noch als bei jeder anderen neuen Technologie, die wir kennen, gibt es zahlreiche Risikofaktoren zu berücksichtigen, insbesondere bei einer überstürzten Entwicklung und Implementierung. Tenable AI Aware ermöglicht Unternehmen einen sicheren Einsatz von KI und stellt sicher, dass ihre Sicherheitsmaßnahmen mit der schnellen Entwicklung von KI-Technologien Schritt halten.“

Zusätzlich zur Erkennung von KI-Software und -Schwachstellen sind in Tenable Vulnerability Management, Tenable Security Center und Tenable One weitere wichtige AI Aware-Funktionen verfügbar:

  • Dashboard-Ansichten bieten einen Überblick über die am häufigsten im Ökosystem festgestellte KI-Software, die wichtigsten Assets mit KI-bezogenen Schwachstellen sowie die am häufigsten von KI-Technologien genutzten Kommunikationsports.
  • Shadow Software Development Detection deckt das unerwartete Vorhandensein von KI-Entwicklungsbausteinen in der Umgebung auf, wodurch Unternehmen in der Lage sind, ihre Initiativen mit den Best Practices des Unternehmens abzustimmen.
  • Filter Findings for AI Detections ermöglicht es Teams, bei der Überprüfung der Ergebnisse von Schwachstellenbewertungen den Fokus auf Feststellungen mit KI-Bezug zu legen. In Kombination mit dem leistungsstarken Tenable Vulnerability Prioritization Rating (VPR) können Teams Schwachstellen, die durch KI-Programme und -Bibliotheken verursacht werden, effektiv bewerten und priorisieren.
  • Asset-Centric AI-Inventory stellt bei der Überprüfung des detaillierten Profils eines Assets eine komplette Bestandsaufnahme von mit KI verbundenen Programmen, Bibliotheken und Browser-Plugins bereit
Mehr bei Tenable.com

 


Über Tenable

Tenable ist ein Cyber Exposure-Unternehmen. Weltweit vertrauen über 24.000 Unternehmen auf Tenable, um Cyberrisiken zu verstehen und zu reduzieren. Die Erfinder von Nessus haben ihre Expertise im Bereich Vulnerabilities in Tenable.io kombiniert und liefern die branchenweit erste Plattform, die Echtzeit-Einblick in alle Assets auf jeder beliebigen Computing-Plattform gewährt und diese Assets sichert. Der Kundenstamm von Tenable umfasst 53 Prozent der Fortune 500, 29 Prozent der Global 2000 und große Regierungsstellen.


 

Passende Artikel zum Thema

Microsoft: APT-Gruppe Storm-0501 zielt auf Hybrid-Clouds

Microsoft hat beobachtet, wie der Bedrohungsakteur Storm-0501 einen mehrstufigen Angriff startete, bei dem er hybride Cloud-Umgebungen kompromittierte und sich lateral ➡ Weiterlesen

Sicherheit in KI-Lösungen und Large Language Models

Ein Unternehmen für Exposure-Management, gab die Veröffentlichung von AI Aware bekannt, einer hochentwickelten Erkennungsfunktion, die schnell feststellen kann, ob Lösungen ➡ Weiterlesen

Gesteuerte, sichere KI-Unterstützung für Finanzinstitute

Durch den zunehmenden elektronischen Geschäftsverkehr ist auch die Anforderung an Finanzinstitute diese Daten ausreichend zu schützen rapide gestiegen. Viele Cyberangriffe ➡ Weiterlesen

Daten retten mit ClickUp-Backups

Ob versehentlich gelöscht, durch einen Systemfehler verloren oder Opfer eines Hackerangriffs – Datenverlust kann schnell passieren und stellt ein großes ➡ Weiterlesen

KI-generierte Skripte in neuer Malware entdeckt 

Bedrohungsakteure verwenden bereits seit einiger Zeit generative künstliche Intelligenz (GenAI), um überzeugende Phishing-Köder zu erstellen. Jetzt ist dem HP Threat ➡ Weiterlesen

Neue proaktive IT-Security passt sich Angriffsflächen an 

Bitdefender hat heute seine neue GravityZone Proactive Hardening and Attack Surface Reduction (PHASR) vorgestellt. GravityZone PHASR analysiert das individuelle Anwenderverhalten, ➡ Weiterlesen

Security-Services mit Unterstützung für Microsoft Entra ID

Es gibt ein neues Update der Data-Protection-Plattform HYCU R-Cloud, welches weitreichende Neuerungen mit sich bringt. Dieses bietet Kunden mit der ➡ Weiterlesen

Herausforderungen durch Cyberbedrohungen, IT-Ausfälle und EU

CIOs und CISOs geraten aus verschiedenen Richtungen unter Druck: Cyberbedrohungen, IT-Ausfälle und EU-Regularien. Ein Leitfaden gibt Empfehlungen, wie Unternehmen den ➡ Weiterlesen