Immer mehr Unternehmen integrieren künstliche Intelligenz in ihre Angebote, sind aber nicht auf die damit verbundenen Sicherheitsherausforderungen vorbereitet. Sie unterschätzen oft die Risiken von Modellmanipulationen und ihre traditionelle Verteidigungssysteme sind nicht mehr für diese Bedrohungen geeignet.
Viele Führungskräfte ringen immer noch mit der Frage, wie sie KI in ihren Umgebungen auf sichere Weise einsetzen können. In dem Ausmaß und der Geschwindigkeit, in der KI tief in Unternehmen und kritische Infrastrukturen eingebettet wird, nehmen die Risiken schnell und in globalem Maßstab zu.
Um Unternehmen bei der Bewältigung dieser Risiken zu unterstützen und ihnen dabei zu helfen, die Kontrolle zurückzuerlangen, startet das SANS Institute eine wichtige Initiative. Dazu gehört die bevorstehende Veröffentlichung der Critical AI Security Guidelines v1.0, ein praktisches, betriebsorientiertes Rahmenwerk für Sicherheitsverantwortliche, die KI-Systeme jetzt absichern müssen.
Maßnahmen zum Schutz von KI-Systemen
Die Richtlinien wurden erstmals auf dem SANS AI Summit 2025 am 31. März vorgestellt und konzentrieren sich auf sechs kritische Bereiche: Zugriffskontrollen, Datenschutz, Bereitstellungsstrategien, Inferenzsicherheit, Überwachung sowie GRC (Governance, Risk, Compliance). Sie wurden entwickelt, um Sicherheitsteams und Führungskräften eine klare, praktische Anleitung für den Schutz von KI-Systemen in realen Umgebungen zu geben. Jeder Abschnitt enthält umsetzbare Empfehlungen, die Unternehmen dabei helfen, die mit modernen KI-Technologien verbundenen Risiken zu erkennen, abzumindern und zu verwalten. Nach ihrer Veröffentlichung werden die Richtlinien für das Feedback der Community freigegeben, so dass Praktiker, Forscher und Experten Erkenntnisse und Aktualisierungen beisteuern können.
Jetzt Newsletter abonnieren
Einmal im Monat die besten News von B2B CYBER SECURITY lesen„Wir beobachten, dass Unternehmen große Sprachmodelle, Retrieval-Augmented Generation (RAG) und autonome Agenten schneller einsetzen, als sie sie sichern können“, sagt Rob T. Lee, Chief of Research und Co-Chair des SANS AI Summits. „Diese Richtlinien wurden für den aktuellen Stand der Technik entwickelt. Sie sind keine Theorie, sondern für Security Analysten und Führungskräfte verfasst worden, die diese Systeme schon heute schützen müssen.
Experten, die künstliche Intelligenz verstehen, sind notwendig
KI-Technologien sind für jeden Aspekt eines Unternehmens von zentraler Bedeutung. Aus diesem Grund war der Bedarf an Open-Source-Tools zur Unterstützung von Sicherheitsteams und neuen Funktionen zur Absicherung von KI noch nie so groß. Der SANS AI Cybersecurity Hackathon lud daher die Cybersecurity-Community von Mitte Februar bis Mitte März dazu ein, Open-Source-Tools zu entwickeln, die direkt auf die neuen Sicherheitsrichtlinien abgestimmt sind. Die Veranstaltung forderte die Teilnehmer heraus, innovative Sicherheitslösungen und Monitoring für Inferenzprozesse zu entwickeln. Sie mussten Angriffe abwehren und Schwachstellen in KI-Modellen beheben. Die während des Hackathons entwickelten Tools werden auf dem KI-Summit vorgestellt und bieten Unternehmen praxisnahe Lösungen.
„Wir brauchen mehr Experten, die verstehen, wie KI funktioniert und wie man sie verteidigt“, sagt Kate Marshall, SANS AI Hackathon Director und Co-Chair des SANS AI Summits. „Es geht nicht nur um die Entwicklung von Tools, sondern auch um Talenten eine Bühne zu geben. Genau das brauchen wir, um KI-Systeme für die Zukunft abzusichern.“
Entwicklung von neuer Sicherheitsfähigkeiten
Der Hackathon ist ein wichtiger Schritt, um den wachsenden KI Skills Gap zu schließen. Er bietet den Teilnehmern praktische Erfahrungen und direkte Betreuung durch führende KI-Sicherheitsexperten. Angesichts der wachsenden Nachfrage nach KI-Sicherheitsexperten sind Initiativen wie diese von entscheidender Bedeutung, um sicherzustellen, dass die Talentpipeline den Anforderungen der Branche gerecht wird. Die Gewinner-Tools werden nicht nur bekannt gemacht und unterstützt, sondern werden auch zu einem wichtigen Bestandteil für die effektive Umsetzung von Sicherheitsrichtlinien in Unternehmen.
„Wir haben einen Punkt erreicht, an dem diese Art von Arbeit nicht mehr optional ist“, erklärt Rob T. Lee. „Die Branche brauchte etwas Zentrales, einen vertrauenswürdigen Ort für KI-Sicherheit. Wir brauchen echte Kontrollen, echte Werkzeuge und eine Möglichkeit, die Fähigkeiten zu entwickeln, die die Welt schützen werden. Das ist es, worum es hier geht. Es geht nicht um SANS. Es geht darum, als Gemeinschaft zusammenzukommen.“
Mehr bei SANS.org
Über das SANS Institute
SANS wurde 1989 als Genossenschaft für Vordenker im Bereich Informationssicherheit gegründet und hat es sich zur Aufgabe gemacht, Cybersicherheitsexperten die praktischen Fähigkeiten und Kenntnisse zu vermitteln, die sie benötigen, um unsere Welt sicherer zu machen. Wir unterstützen dieses Bestreben mit hochwertigen Schulungen, Zertifizierungen, Stipendienakademien, Studiengängen, Cyber-Bereichen und Ressourcen, um den Anforderungen jedes Cyber-Experten gerecht zu werden. Unsere Daten, unsere Forschung und die besten Köpfe im Bereich Cybersicherheit stellen gemeinsam sicher, dass Einzelpersonen und Organisationen die praktische Ausbildung und Unterstützung erhalten, die sie benötigen.
Passende Artikel zum Thema