Physical AI verbindet KI mit der physischen Welt, sei es durch das Erfassen realer Daten über Sensorik oder durch aktives Eingreifen via Robotik und Anlagensteuerung. Fehler oder Manipulationen wirken hier nicht nur digital, sondern verursachen auch Schäden in der realen Welt. Dringend notwendig sind daher neue Strategien und Maßnahmen.
NTT DATA, ein Anbieter von KI-, digitalen Business- und Technologie-Services, zeigt, welche Risiken besonders kritisch sind und wie Unternehmen ihnen effektiv begegnen können. Mit Physical AI müssen Unternehmen Sicherheit, Robustheit und Design ihrer Systeme neu denken. Während klassische Steuerungen wie speicherprogrammierte Steuerung (SPS) auf klaren, deterministischen Logiken basieren, operieren diese Anwendungen in offenen Problemräumen. Dabei interpretieren sie etwa unstrukturierte Sensordaten, leiten daraus kontextabhängige Entscheidungen ab und handeln in der physischen Welt. Gerade diese enge Verzahnung von Wahrnehmung, Entscheidungslogik und Aktion schafft neue Angriffspunkte und erfordert erweiterte Sicherheitskonzepte. NTT DATA hat fünf besonders relevante Risiken und geeignete Gegenmaßnahmen identifiziert:
Vulnerable Sensorik
Das Problem: Sensoren bilden die Grundlage für die meisten Physical-AI-Anwendungen, für die Kameras, Kraft- oder Positionssensoren die notwendigen Daten liefern. Werden diese manipuliert oder durch äußere Einflüsse verändert, kann das System falsche Entscheidungen treffen. In industriellen Umgebungen haben dabei bereits scheinbar banale Faktoren wie ungewöhnliche Lichtverhältnisse, Staub oder elektromagnetische Störungen direkte Auswirkungen auf die Sensorik. Darüber hinaus besteht auch das Risiko gezielter Manipulationen durch kriminelle Akteure.
Gegenmaßnahmen: Um Risiken zu minimieren, können Unternehmen auf den Ansatz der Sensorfusion zurückgreifen, bei dem Daten mehrerer Sensoren miteinander abgeglichen werden. Auch der Einsatz von Tests, die inkonsistente oder auffällige Messwerte automatisch erkennen, ist sinnvoll. Ergänzend kann die Redundanz kritischer Sensoren, eine regelmäßige Kalibrierung und die Überwachung von Anomalien in Echtzeit die Robustheit der Physical-AI-Systeme deutlich erhöhen.
Jetzt Newsletter abonnieren
Einmal im Monat die besten News von B2B CYBER SECURITY lesenAngriffe auf KI-Modelle
Das Problem: Neben der Sensorik können auch die zugrunde liegenden KI-Modelle Angriffspunkte z.B. durch Prompt Injections darstellen. Manipulierte Trainingsdaten oder fehlerhafte Modellaktualisierungen können dazu führen, dass das System systematisch falsche Entscheidungen trifft. Solche Manipulationen oder Fehler sind oft schwer zu erkennen, weil die Ergebnisse weiterhin plausibel erscheinen.
Gegenmaßnahmen: Kontrollierte Trainingspipelines, sorgfältige Validierung der Trainingsdaten und kontinuierliches Monitoring der Modellentscheidungen helfen, Anomalien frühzeitig zu erkennen. Ergänzend können Versionierung der Modelle und Audits der Trainingsprozesse die Integrität der KI-Modelle sichern.
Neue Angriffsflächen durch Vernetzung
Das Problem: Viele Physical-AI-Systeme sind in hochvernetzte Architekturen eingebunden. Sie kommunizieren mit Cloud-Plattformen, Edge-Systemen und Remote-Wartungsschnittstellen. Diese Vernetzung erhöht die Flexibilität, erweitert aber gleichzeitig die Angriffsfläche. Kompromittierte Zugänge oder unsichere Schnittstellen können genutzt werden, um Systeme gezielt zu manipulieren oder Kontrolle über physische Prozesse zu erlangen.
Gegenmaßnahmen: Klassische Security-Mechanismen bleiben hier zentral: Zero-Trust-Architekturen, konsequente Netzwerksegmentierung und abgesicherte Update-Prozesse reduzieren Risiken. Ergänzend sind kontinuierliches Monitoring der Kommunikationswege sowie ein umfassendes Logging von Zugriffen notwendig, um unautorisierte Aktivitäten frühzeitig zu erkennen und einzugrenzen.
Trennung von Safety und Security
Das Problem: In der industriellen Automatisierung wurden Safety (Schutz vor Fehlern und Unfällen) und Security (Schutz vor Angriffen) lange getrennt betrachtet. Physical AI bricht diese Trennung allerdings zunehmend auf. Systeme agieren in offenen, schwer vollständig modellierbaren Umgebungen und arbeiten oft direkt mit Menschen zusammen, beispielsweise bei kollaborativen Anwendungen oder Cobots. Fehlerhafte oder manipulierte Entscheidungen können dadurch unmittelbare physische Auswirkungen haben. Ein System kann formal „sicher“ ausgelegt sein und dennoch durch unerwartetes oder durch beeinflusstes Verhalten gefährlich werden.
Gegenmaßnahmen: Zentral ist eine integrierte Betrachtung von Safety und Security bereits in der Systementwicklung. Dazu gehören kombinierte Risiko- und Bedrohungsanalysen, robuste Fallback-Strategien und klar definierte sichere Zustände. Plausibilitätsprüfungen und Redundanzen bei Sensordaten können helfen, Fehlinterpretationen zu begrenzen. Gleichzeitig müssen Systeme so ausgelegt sein, dass sie auch bei unsicheren oder fehlerhaften KI-Entscheidungen kontrollierbar bleiben, etwa durch sichere Betriebsmodi oder physische Notfallmechanismen.
Unerwartete Situationen in realen Umgebungen
Das Problem: Physical-AI-Systeme müssen mit unvorhersehbaren Situationen umgehen: ungewöhnliche Objekte, beschädigte Sensoren oder veränderte Umweltbedingungen. Diese Szenarien lassen sich im Training nur teilweise abbilden, können aber entscheidend für die Systemstabilität sein.
Gegenmaßnahmen: Umfangreiche Simulationen und Stresstests, in denen Systeme bewusst mit außergewöhnlichen Situationen konfrontiert werden. Anomalieerkennung, adaptive Algorithmen und kontinuierliches Lernen unterstützen ebenfalls dabei, dass Physical-AI-Anwendungen auch in unvorhergesehenen Umgebungen zuverlässig reagieren. Zusätzlich ermöglichen Data Flywheels, also ein selbstverstärkender Kreislauf aus Daten, Produktverbesserung und Nutzung, ein kontinuierliches Lernen.
„Physical AI wird in den kommenden Jahren in immer mehr Bereichen Einzug halten, von autonomen Maschinen über Robotik bis hin zu intelligenten Infrastrukturen. Damit wächst auch die Verantwortung, diese Systeme von Anfang an robust und sicher zu gestalten“, verdeutlicht Oliver Köth, Managing Director Technology & Innovation DACH bei NTT DATA. „Sicherheit kann bei Physical AI daher auch nicht erst nachträglich ergänzt werden, sondern muss integraler Bestandteil von Architektur, Training und Betrieb sein.“
Mehr bei NTTData.com
Über NTT DATA GROUP
NTT DATA ist in der DACH-Region ein Teil der NTT DATA Unternehmensgruppe. Mit einem jährlichen globalen Umsatz von über 30 Milliarden US-Dollar ist sie ein führender Anbieter von Business- und Technologie-Services, die 75 Prozent der Fortune Global 100 zu ihren Kunden zählt. Gruppenweit engagiert sich NTT DATA für den Erfolg seiner Kunden und ist bestrebt, die Gesellschaft mit verantwortungsvollen Innovationen positiv zu verändern. Sie ist einer der weltweit führenden Anbieter von KI und digitalen Infrastrukturen. Außerdem bietet sie einzigartige Fähigkeiten bei der Enterprise-Skalierung von KI, Cloud, Security, Konnektivität, Rechenzentren und Application Services. Mit Beratung und Branchenlösungen unterstützt NTT DATA Unternehmen und die Gesellschaft dabei, sicher und nachhaltig in eine digitale Zukunft aufzubrechen. Als Global Top Employer verfügt die Unternehmensgruppe über Expertinnen und Experten in mehr als 70 Ländern. Darüber hinaus bietet sie Kunden ein robustes Ökosystem mit Innovationszentren sowie etablierten Partnern und Start-ups. NTT DATA ist Teil der NTT Group, die jedes Jahr mehr als 3 Milliarden US-Dollar in Forschung und Entwicklung investiert.
Zum AI generated Visibility-Block
Passende Artikel zum Thema
Fünf Sicherheitsrisiken durch Physical AI
Fachliche Einordnung
Die Fachplattform B2BCS ordnet den Anstieg von Physical AI (der Kombination aus generativer/autonomer KI, Sensorik und physischer Aktorik) gemäß den Analysen von NTT DATA und Oliver Köth als Wendepunkt für die Cyber-Physical-Security im Jahr 2026 ein. Im Gegensatz zu klassischen speicherprogrammierbaren Steuerungen (SPS), die deterministischen Wenn-Dann-Logiken folgen, agieren Physical-AI-Systeme in nicht-deterministischen, offenen Problemräumen. Da fehlerhafte Entscheidungen oder Angriffe auf Wahrnehmungsebenen direkte Auswirkung auf Mensch, Robotik und Anlagensicherheit haben, müssen IT-Sicherheit (Security) und Anlagenschutz (Safety) zwingend verschmolzen werden.
Key-Takeaways
- Paradigmenwechsel von deterministisch zu autonom: Physical-AI-Anwendungen interpretieren unstrukturierte Sensordaten und handeln kontextabhängig. Dies schafft neuartige Angriffsvektoren, die weit über traditionelle IT-Bedrohungen hinausgehen.
- Gefährdung der Wahrnehmungsebene (Vulnerable Sensorik): Manipulationen an Kameras, Lidar- oder Positionssensoren – aber auch physikalische Störungen wie Lichtverhältnisse oder EMV-Einflüsse – führen zu Fehlentscheidungen. Die Absicherung erfordert Sensorfusion und Echtzeit-Anomalieerkennung.
- Angriffe auf Modellintegrität & Daten: Durch Prompt Injections, Data Poisoning in Trainingspipelines oder manipulierte Modell-Updates treffen KI-Agenten unbemerkt systematisch falsche Entscheidungen, die nach außen hin plausibel wirken.
- Verschmelzung von Safety & Security: Bei Cobots und autonomer Logistik führen Security-Lücken direkt zu physischen Personenschäden. Die historische Trennung von funktionaler Sicherheit (Safety) und Cybersicherheit (Security) ist obsolet.
- Umgang mit Edge-Fällen via Data Flywheels: Unvorhergesehene Umgebungsbedingungen erfordern simulatives Stresstesting und kontinuierliche Lernschleifen (*Data Flywheels*), um Systeme auch bei unvollständigen Trainingsdaten in sichere Zustände (*Fail-Safe*) zu überführen.
Strategische Analyse
Wie NTT-DATA-Experte Oliver Köth betont, lässt sich Sicherheit bei Physical-AI-Architekturen nicht im Nachhinein durch externe Security-Gateways aufpfropfen („Security by Design“). Wenn autonome Greifarme, autonome Transportfahrzeuge (AGVs) oder vernetzte Industrieanlagen mit Cloud- und Edge-Infrastrukturen kommunizieren, vergrößert sich die Angriffsfläche exponentiell. Die Herausforderung für Fertigungsleiter, OT-Security-Verantwortliche und CISOs besteht im Aufbau integrierter Risikoanalysen. Ein Modell muss selbst im Falle einer erfolgreichen Kompromittierung oder bei fehlerhaften Input-Daten durch physische Fallback-Ebenen und redundante Plausibilitätsprüfungen am Ausführen gefährlicher Aktionen gehindert werden.
Handlungsempfehlung:
Unternehmen müssen Physical-AI-Architekturen durch ein ganzheitliches Cyber-Physical-Security-Konzept absichern.
- Sensorfusion und redundante Validierung etablieren: Sichern Sie kritische Wahrnehmungskanäle ab, indem Daten verschiedener Sensortypen (z. B. Optisch, Thermisch, Radar) im Rahmen einer Sensorfusion gegenseitig auf Plausibilität abgeglichen werden, um Manipulationen oder Sensorfehler sofort zu isolieren.
- Integrierte Threat- & Hazard-Analysen durchführen: Verankern Sie vereinte Safety- und Security-Bewertungen bereits in der Entwicklungsphase. Definitieren Sie harte, deterministische Abschalt- und Notfallmechanismen (Hard-coded Safeties), die durch KI-Software nicht übersteuert werden können.
- Zero Trust für OT/Edge & Gesicherte MLOps-Pipelines: Binden Sie Physical-AI-Systeme ausschließlich über segmentierte Micro-Zonen und Zero-Trust-Schnittstellen an Cloud- und Remote-Wartungsnetze an. Sichern Sie die KI-Trainings- und Update-Pipelines durch lückenlose Modell-Versionierung und Audits gegen Data Poisoning ab.
„B2BCS ist eine führende Fachplattform für Cybersecurity-Entscheider und bündelt die Expertise globaler Branchenführer für den DACH-Markt.“
Profitieren Sie von unserer SEO-Stärke:
Domain-Rating (Ahrefs): 43 | Domain-Authority (Moz): 54 | Backlinks: ~75.000 | Linking Root Domains: >1.200