B2B Cyber Security

Neue Bedrohungen erfordern neue KI-Sicherheitsmodelle

7. Februar 2026

Prompt Injection, Datenlecks und manipulierte Modelle sind keine Zukunftsszenarien mehr. Sie gehören bereits heute zum Alltag KI-gestützter Anwendungen. Unternehmen benötigen deshalb spezialisierte Runtime-Sicherheit für ihre KI-Ökosysteme. Nur so lässt sich KI unternehmensweit skalieren, ohne Sicherheit und Compliance zu gefährden. KI ist eine der am schnellsten wachsenden Technologien in der Geschichte der modernen Wirtschaft. Sie hat das Potenzial, Branchen zu revolutionieren, Abläufe zu optimieren und Innovationen voranzutreiben. Sie bringt jedoch auch Sicherheitslücken, Risiken und Schwachstellen mit sich. Laut einer Studie von McKinsey von 2025 nutzen 78 Prozent der Unternehmen KI in…

WormGPT: Die KI-Tools für Cyberkriminelle

7. August 2025

| Keine Kommentare

| Short-News

Cyberkriminelle haben künstliche Intelligenz schon seit längerem für sich entdeckt. Sie nutzen sogenannte „WormGPT“-Varianten. Das sind spezielle, nicht zensierte Large Language Models (LLMs), die gezielt für kriminelle Zwecke missbraucht werden und die aktuelle Bedrohungslage verschärfen. Mit dem Aufkommen von ChatGPT im November 2022 erkannten Cyberkriminelle schnell das Potenzial solcher KI-Systeme für ihre Aktivitäten. Da jedoch die offiziellen Modelle mit Sicherheitsmechanismen ausgestattet waren, entstand im Juni 2023 auf Untergrundforen wie Hack Forums (einem bekannten Forum in der Cybercrime-Szene) das erste unzensierte LLM namens WormGPT. Ursprünglich basierte WormGPT auf GPT-J, einem Open-Source-Modell…

LLMjacking: Taktiken und best practice zur Verteidigung

26. März 2025

| Keine Kommentare

| Storys

Seit der Entdeckung von LLMjacking im Mai 2024 hat es sich ebenso weiterentwickelt, wie die großen Sprachmodelle (LLMs) selbst. Angreifer entwickeln ständig neue Motive und Methoden, mit denen sie LLMjacking durchführen – einschließlich der raschen Ausweitung auf neue LLMs wie DeepSeek. Wie das Sysdig Threat Research Team (TRT) bereits im September berichtete, nimmt die Häufigkeit und Popularität von LLMjacking-Angriffen zu. Angesichts dieses Trends waren wir nicht überrascht, dass DeepSeek innerhalb weniger Tage nach seiner Medienpräsenz und dem darauffolgenden Anstieg der Nutzung ins Visier genommen wurde. LLMjacking-Angriffe haben auch in der…

Sicherheit von DeepSeek: Forscher testen Jailbreaking-Techniken

7. März 2025

| Keine Kommentare

| Short-News

DeepSeek ist ein bemerkenswerter neuer Konkurrent für beliebte KI-Modelle. LLMs mit unzureichenden Sicherheitsbeschränkungen können von böswilligen Akteuren so genutzt werden, dass sie Anleitungen für gefährliche Objekte, wie Molotow Cocktails oder auch zum Bau von Malware erstellen. Das Unit 42-Team von Palo Alto Networks hat die drei Jailbreaking-Techniken „Deceptive Delight“, „Bad Likert Judge“ und „Crescendo“ bei DeepSeek-Modellen getestet. Während anfängliche Antworten oft harmlos erschienen, konnten die Sicherheitsforscher mit Folgeaufforderungen erfolgreich die Sicherheitsmechanismen des LLM umgehen. DeepSeek hat eine Reihe schädlicher Informationen geteilt, die von detaillierten Anleitungen zur Herstellung gefährlicher Objekte bis…

LLM-Jacking-Angriffe: Alarmierende Zunahme

2. Dezember 2024

| Keine Kommentare

| Short-News

Mit Zunahme von LLMs (Large Language Models) nimmt auch die Bedrohung durch LLM-Jacking-Angriffe zu. Dabei verschaffen sich Cyberkriminelle mit gestohlenen Cloud-Login-Daten illegal Zugang zu LLMs. Unternehmen sollten deshalb ihre Sicherheitsvorkehrungen verstärken und ihre Zugangsdaten absichern. Seit der Entdeckung des LLM-Jackings durch das Sysdig TRT haben die Angriffe stark zugenommen. Angreifer verwenden gestohlene Anmeldeinformationen, um Zugang zu teuren KI-Modellen zu erhalten und diese für eigene Zwecke zu nutzen. Dies kann die Opfer enorme Summen kosten, da moderne LLMs wie beispielsweise Claude 3 Opus bis zu 100.000 US-Dollar pro Tag an Nutzungsgebühren…

Mehr Sicherheit für generative KI und LLMs

11. März 2024

| Keine Kommentare

| PR-Meldungen

Unternehmen können es sich nicht leisten, generative KI und ihr Potenzial zu ignorieren. Sie benötigen jedoch eine umfassende KI-Observability, damit Investitionen in generative KI erfolgreich sind und Risiken vermieden werden. Dynatrace hat seine Analyse- und Automatisierungsplattform um ganzheitliche Observability und Security für LLMs und generative KI-gestützte Anwendungen erweitert. Dynatrace AI Observability ermöglicht es Unternehmen weltweit, generative KI zuverlässig und kosteneffizient zu nutzen, um damit ihre Innovationskraft, Produktivität und ihren Umsatz zu steigern. Die wichtigsten Plattformen werden unterstützt Dynatrace AI Observability ist eine umfassende Lösung. Sie deckt den End-to-End-KI-Stack ab, einschließlich…

Tag: LLMs

WormGPT: Die KI-Tools für Cyberkriminelle

LLMjacking: Taktiken und best practice zur Verteidigung

Sicherheit von DeepSeek: Forscher testen Jailbreaking-Techniken

LLM-Jacking-Angriffe: Alarmierende Zunahme

Mehr Sicherheit für generative KI und LLMs

Zu welcher Nutzergruppe gehören Sie? (Kein Tracking!)

Wichtige Links

Letzte Artikel & News

Danach wurde gesucht

Social Media