Sicherheit in KI-Lösungen und Large Language Models

Sicherheit in KI-Lösungen und Large Language Models

Beitrag teilen

Ein Unternehmen für Exposure-Management, gab die Veröffentlichung von AI Aware bekannt, einer hochentwickelten Erkennungsfunktion, die schnell feststellen kann, ob Lösungen für künstliche Intelligenz im Einsatz sind und ob KI-bezogene Schwachstellen und Sicherheitsschwächen vorliegen.

Tenable AI Aware liefert Erkenntnisse über Sicherheitslücken in KI-Anwendungen, -Bibliotheken und -Plugins, so dass Unternehmen KI-Risiken zuverlässig identifizieren und beseitigen können, ohne den Geschäftsbetrieb zu beeinträchtigen. Die rasante Entwicklung und Akzeptanz von KI-Technologien in den letzten zwei Jahren hat große Cybersecurity- und Compliance-Risiken mit sich gebracht, denen Unternehmen begegnen müssen, ohne dabei auf bewährte Best Practices zurückgreifen zu können. Folglich stehen Cybersecurity-Teams vor erheblichen Herausforderungen im Zusammenhang mit KI, beispielsweise bei der Erkennung und Behebung von Schwachstellen, der Eindämmung von Datenlecks und der Unterbindung unbefugter KI-Nutzung.

Anzeige

Schwachstellen in KI

Laut aktuellen Forschungsergebnissen von Tenable stellen mehr als ein Drittel der Sicherheitsteams fest, dass in ihrer Umgebung KI-Anwendungen eingesetzt werden, die möglicherweise nicht mittels formaler Prozesse bereitgestellt wurden. So fand Tenable in einem Zeitraum von 75 Tagen zwischen Ende Juni und Anfang September über 9 Millionen Instanzen von KI-Anwendungen auf mehr als 1 Million Hosts. Das Cybersecurity-Risiko einer uneingeschränkten KI-Nutzung wird durch die zunehmende Zahl von KI-Schwachstellen noch verschärft. Tenable Research hat mehrere Schwachstellen in KI-Lösungen gefunden und veröffentlicht, unter anderem in Microsoft Copilot, Flowise und Langflow.

Mit AI Aware transformiert Tenable die proaktive Sicherheit für KI-Lösungen. Tenable AI Aware setzt Agents, passives Netzwerk-Monitoring, dynamisches Testen der Anwendungssicherheit und verteilte Scan-Engines gezielt dazu ein, zugelassene und nicht zugelassene KI-Software, KI-Bibliotheken und KI‑Browser-Plugins zu erkennen und die damit verbundenen Schwachstellen aufzuspüren, um so die Risiken von Ausnutzung, Datenlecks und unberechtigtem Ressourcenverbrauch zu reduzieren. Die kombinierte Bandbreite dieser verschiedenen Bewertungsmethoden ermöglicht die umfassendste Erkennung von KI im modernen Ökosystem.

Funktionen für KI-Lösungen

„In dem Bestreben, mit dem durch KI eingeleiteten Wandel Schritt zu halten, sind Unternehmen auf der ganzen Welt mit voller Geschwindigkeit vorausgeeilt und haben dabei möglicherweise zahllose Risiken in Bezug auf Cybersicherheit, Datenschutz und Compliance übersehen“, so Shai Morag, Chief Product Officer bei Tenable. „Mehr noch als bei jeder anderen neuen Technologie, die wir kennen, gibt es zahlreiche Risikofaktoren zu berücksichtigen, insbesondere bei einer überstürzten Entwicklung und Implementierung. Tenable AI Aware ermöglicht Unternehmen einen sicheren Einsatz von KI und stellt sicher, dass ihre Sicherheitsmaßnahmen mit der schnellen Entwicklung von KI-Technologien Schritt halten.“

Zusätzlich zur Erkennung von KI-Software und -Schwachstellen sind in Tenable Vulnerability Management, Tenable Security Center und Tenable One weitere wichtige AI Aware-Funktionen verfügbar:

  • Dashboard-Ansichten bieten einen Überblick über die am häufigsten im Ökosystem festgestellte KI-Software, die wichtigsten Assets mit KI-bezogenen Schwachstellen sowie die am häufigsten von KI-Technologien genutzten Kommunikationsports.
  • Shadow Software Development Detection deckt das unerwartete Vorhandensein von KI-Entwicklungsbausteinen in der Umgebung auf, wodurch Unternehmen in der Lage sind, ihre Initiativen mit den Best Practices des Unternehmens abzustimmen.
  • Filter Findings for AI Detections ermöglicht es Teams, bei der Überprüfung der Ergebnisse von Schwachstellenbewertungen den Fokus auf Feststellungen mit KI-Bezug zu legen. In Kombination mit dem leistungsstarken Tenable Vulnerability Prioritization Rating (VPR) können Teams Schwachstellen, die durch KI-Programme und -Bibliotheken verursacht werden, effektiv bewerten und priorisieren.
  • Asset-Centric AI-Inventory stellt bei der Überprüfung des detaillierten Profils eines Assets eine komplette Bestandsaufnahme von mit KI verbundenen Programmen, Bibliotheken und Browser-Plugins bereit
Mehr bei Tenable.com

 


Über Tenable

Tenable ist ein Cyber Exposure-Unternehmen. Weltweit vertrauen über 24.000 Unternehmen auf Tenable, um Cyberrisiken zu verstehen und zu reduzieren. Die Erfinder von Nessus haben ihre Expertise im Bereich Vulnerabilities in Tenable.io kombiniert und liefern die branchenweit erste Plattform, die Echtzeit-Einblick in alle Assets auf jeder beliebigen Computing-Plattform gewährt und diese Assets sichert. Der Kundenstamm von Tenable umfasst 53 Prozent der Fortune 500, 29 Prozent der Global 2000 und große Regierungsstellen.


 

Passende Artikel zum Thema

Report: Vertrauenswürdige Windows Anwendungen missbraucht

In seinem neuen Active Adversary Report 2024 belegt Sophos den Wolf im Schafspelz: Cyberkriminelle setzten vermehrt auf vertrauenswürdige Windows-Anwendungen für ➡ Weiterlesen

XDR: Schutz von Daten in Atlassian-Cloud-Applikationen

Mit einer neuen XDR-Erweiterung kann Bitdefender nun auch Daten in Atlassian-Cloud-Applikationen schützen. Somit ist das Überwachen, Erkennen und eine Reaktion auf ➡ Weiterlesen

Ausblick 2025: Lösungen für veränderte Angriffsflächen durch KI, IoT & Co

Die Angriffsfläche von Unternehmen wird sich im Jahr 2025 unweigerlich weiter vergrößern. Die datengetriebene Beschleunigung, einschließlich der zunehmenden Integration von ➡ Weiterlesen

Cloud Rewind für Wiederaufbau nach einer Cyberattacke

Eine neue Lösung für Cyber Recovery und zum Rebuild cloudzentrierter IT-Infrastrukturen. Commvault Cloud Rewind mit neuen Funktionen zum Auffinden von ➡ Weiterlesen

RAG: Innovative KI-Technologien bringen Gefahren mit sich

Seit der Einführung von ChatGPT 2022 wollen immer mehr Unternehmen KI-Technologien nutzen – oft mit spezifischen Anforderungen. Retrieval Augmented Generation ➡ Weiterlesen

Medusa-Ransomware-Gruppe betreibt offenen Opfer-Blog im Web

Auch Cyberkriminelle pflegen neben der direkten Kommunikation mit dem Opfer ihre Außendarstellung. Denn Reputation ist ein wichtiger Erfolgsfaktor für Ransomware-as-a-Service-Unternehmen. Der ➡ Weiterlesen

Lokale Backups: Rückkehr zum sicheren Hafen

Warum Unternehmen lokale Backup-Strategien wiederentdecken: In den letzten Jahren haben sich Unternehmen zunehmend in die Abhängigkeit von Cloud-Lösungen manövriert - ➡ Weiterlesen

Gefährliche Lücken: Studie zu ICS und OT Cybersecurity

Das SANS Institute hat die Ergebnisse seiner Studie 2024 State of ICS/OT Cybersecurity veröffentlicht. Sie zeigt erhebliche Fortschritte bei der ➡ Weiterlesen