Mit Zunahme von LLMs (Large Language Models) nimmt auch die Bedrohung durch LLM-Jacking-Angriffe zu. Dabei verschaffen sich Cyberkriminelle mit gestohlenen Cloud-Login-Daten illegal Zugang zu LLMs. Unternehmen sollten deshalb ihre Sicherheitsvorkehrungen verstärken und ihre Zugangsdaten absichern.
Seit der Entdeckung des LLM-Jackings durch das Sysdig TRT haben die Angriffe stark zugenommen. Angreifer verwenden gestohlene Anmeldeinformationen, um Zugang zu teuren KI-Modellen zu erhalten und diese für eigene Zwecke zu nutzen. Dies kann die Opfer enorme Summen kosten, da moderne LLMs wie beispielsweise Claude 3 Opus bis zu 100.000 US-Dollar pro Tag an Nutzungsgebühren verursachen können.
Cyberkriminelle nutzen KI-Technologien um LLMs anzugreifen
Mit der fortschreitenden Entwicklung von LLMs und der steigenden Popularität dieser Modelle wächst auch die Kreativität der Cyberkrimineller, die zu immer raffinierteren Methoden greifen. Die Zahl der LLM-Jacking-Angriffe hat in den letzten Monaten einen besorgniserregenden Höhepunkt erreicht. Im Juli 2024 wurden innerhalb weniger Tage über 85.000 Bedrock-API-Anfragen von Angreifern registriert, die in kurzer Zeit enorme Mengen an Rechenressourcen verbrauchten. Diese Angriffe sind ein deutliches Zeichen für die zunehmende Professionalität der Angreifer, die moderne KI-Technologien zur Optimierung ihrer Aktivitäten einsetzen. Die Angreifer nutzen gestohlene Anmeldeinformationen, um über Cloud-Dienste auf LLMs zuzugreifen, was zu einem erheblichen Anstieg der Kosten für die betroffenen Unternehmen führt.
Missbrauch der LLMs durch gesperrte Nutzer
Besonders besorgniserregend ist der Missbrauch dieser KI-Modelle durch gesperrte Nutzer oder Institutionen in sanktionierten Ländern. Diese erwerben illegalen Zugang zu den Modellen auf dem Schwarzmarkt und umgehen so die bestehenden Sanktionen.
Die Bedrohung durch LLM-Jacking wird durch die Möglichkeit verschärft, dass Angreifer firmeneigene LLMs manipulieren und für ihre Zwecke missbrauchen können. Sysdig empfiehlt betroffenen Unternehmen daher, verstärkte Sicherheitsvorkehrungen zu treffen. Dazu gehören die Absicherung von Zugangsdaten und die Umsetzung von Sicherheitsrichtlinien wie dem Least-Privilege-Prinzip.
Unternehmen müssen ihre Cloud-Sicherheitssysteme kontinuierlich überwachen und auf verdächtige Aktivitäten achten, um der wachsenden Bedrohung durch LLM-Jacking einen Schritt voraus zu sein.
Mehr bei Sysdig.com
Über Sysdig
In der Cloud zählt jede Sekunde. Angriffe erfolgen mit Höchstgeschwindigkeit und Sicherheitsteams müssen das Unternehmen schützen, ohne es zu verlangsamen. Sysdig stoppt Cloud-Angriffe in Echtzeit durch die sofortige Erkennung von Risikoveränderungen mithilfe von Runtime Intelligence und der Open-Source-Software Falco. Sysdig korreliert Signale über Cloud-Workloads, Identitäten und Services hinweg, um versteckte Angriffspfade aufzudecken und echte Risiken zu priorisieren. Von der Prävention bis zur Abwehr hilft Sysdig Unternehmen, sich auf das Wesentliche zu konzentrieren: Innovation.