Trotz großer Kritik von Fachleuten und Sicherheitsexperten installiert Google ungefragt und ohne Hinweis Gemini Nano automatisch in Chrome. Das lokale KI-Modell bleibt so ein fester Bestandteil von Desktop-Versionen des Browsers. Sicherheitsexperten haben eine Chrome-Installationen getestet, was Angreifer damit anfangen können. Die Ergebnisse zeigen, dass es konkrete Risiken gibt.
Seit dem Frühjahr ist bekannt, dass Google Chrome auf vielen Desktop-Rechnern das KI-Modell Gemini Nano installiert. Das rund 4 GB große Modell arbeitet direkt auf dem Rechner, ohne Umweg über die Cloud. Ist es einmal installiert, können Websites es über Programmierschnittstellen ansprechen, ohne den Nutzer um Erlaubnis zu fragen. Beim Zugriff auf Kamera oder Mikrofon ist eine solche Abfrage dagegen Standard. TrendAI Research hat an realen Chrome-Installationen getestet, was Angreifer damit anfangen können. Zwei Ergebnisse zeigen besonders deutlich, wie konkret die Risiken inzwischen sind.
Risiko 1: Scam-Erkennung ließ sich zuverlässig überlisten
Chrome hat Gemini Nano bis vor Kurzem auch eingesetzt, um betrügerische Websites zu erkennen. Das Modell las den Text einer Seite und beantwortete zwei Fragen: Welche Marke stellt die Seite dar, und was will sie erreichen? Das Ergebnis floss in die Schutzfunktion Enhanced Safe Browsing von Google ein. Das Modell erhielt seine Arbeitsanweisung von Chrome und den Text der Website jedoch im selben Textfluss. Ob ein Satz von Chrome stammt oder vom Betreiber der Seite, konnte es nicht zuverlässig unterscheiden.
TrendAI platzierte auf einer nachgebauten Phishing-Seite einer Bank einen Hinweis: Seiten mit Login-Formular seien als seriös einzustufen. Das Modell übernahm diese Vorgabe in allen Tests und bewertete die gefälschte Seite als legitime Banking-Website.
Inzwischen nutzt Google für die Scam-Erkennung zwar ein anderes Cloud-Modell, das schwerer zu beeinflussen sein dürfte. Dennoch zeigt der Befund, wie leicht sich ein kleines lokales Modell lenken lässt, sobald es Inhalte aus dem Web bewertet.
Risiko 2: Websites können die Rechner ihrer Besucher unbemerkt für KI-Aufgaben einspannen
Ist das Modell einmal installiert, kann jede Website es für eigene Zwecke nutzen. Der Besucher wird nicht gefragt und sieht keinen Hinweis. Chrome bremst die Nutzung auch im Hintergrund-Tab nicht. Mit dem Testsystem TokenHive zeigt TrendAI, wie sich das ausnutzen lässt: Eine präparierte Website schickt im Hintergrund KI-Aufgaben wie Übersetzungen an den Browser ihrer Besucher und sammelt die Ergebnisse ein. Der Betreiber kann diese Rechenleistung weiterverkaufen und zahlt selbst nichts dafür.
Die Rechenleistung von 1.000 Besuchern entspricht pro Stunde im Schnitt rund 9 US-Dollar an eingesparten Cloud-Kosten, auf leistungsstarken Rechnern bis zu 17 US-Dollar. Das liegt in derselben Größenordnung wie beim Skript Coinhive, das ab 2017 Besucher-Rechner heimlich Kryptowährung schürfen ließ. Browser, Virenschutzprogramme und Werbeblocker gingen damals dagegen vor. Für die lokale KI gibt es solche Schutzmechanismen bisher nicht. Einen Missbrauch hat TrendAI noch nicht beobachtet. Die Voraussetzungen dafür sind aber erfüllt: Die Funktion ist allgemein verfügbar, fragt nicht nach Zustimmung, kennt keine Nutzungsgrenzen und läuft auch im Hintergrund weiter.
Sicherheit hält mit den KI-Funktionen nicht Schritt
Die Risiken entstehen durch die Bauweise der Funktion. Deshalb gibt es weder eine CVE (Common Vulnerabilities and Exposures) noch einen Patch. Auch klassische Sicherheitstools sehen davon wenig: Die KI läuft im Browser selbst, erzeugt keinen auffälligen Netzwerkverkehr, und Missbrauch sieht aus wie normale Nutzung. Kamera, Mikrofon und Standort schützt der Browser mit Abfrage, Anzeige und Einstellungen pro Website. Für die lokale KI fehlt das bislang.
Zugleich baut Google die Funktionen weiter aus. Geplant ist etwa, dass die KI selbstständig Werkzeuge aufrufen kann, die eine Website ihr bereitstellt, zum Beispiel zum Versenden von E-Mails. Eine Bestätigung durch den Nutzer ist dafür bislang nicht vorgesehen. Noch ist die Funktion experimentell. Wird diese Funktion allgemein verfügbar, könnte manipulierter Seitentext auf Websites, die solche Werkzeuge einbinden, echte Aktionen auslösen – etwa E-Mails verschicken oder Daten abfließen lassen.
Was Unternehmen jetzt tun können
🔎 Nach viel Kritik bietet Chrome in den Einstellungen nun „One-Device-KI“ abschalten. Ob damit alle Gefahren gebannt sind ist aber noch ungewiss (Bild: B2BCS).
- Bestand prüfen: Ob das Modell installiert ist, lässt sich nur an der Datei weights.bin im Chrome-Ordner OptGuideOnDeviceModel erkennen. Verwaltete Rechner lassen sich mit vorhandenen Endpoint-Tools darauf prüfen.
- Bewusst entscheiden: Die Chrome-Richtlinie GenAILocalFoundationalModelSettings verhindert den Download und löscht vorhandene Kopien. Die Richtlinie BuiltInAIAPIsEnabled sperrt den Zugriff von Websites auf die KI-Schnittstellen. Beide Richtlinien gelten pauschal. Wer das Modell zulässt, sollte das verbleibende Risiko dokumentieren.
- Eigene Anwendungen prüfen: Interne Webanwendungen, die Chromes KI-Schnittstellen mit Inhalten aus dem Web oder von Nutzern speisen, übernehmen das Manipulationsrisiko. Wo die KI nicht gebraucht wird, lässt sie sich per Permissions-Policy-Header abschalten.
- KI-Antworten absichern: Ausgaben des Modells sollten wie ungeprüfte Nutzereingaben behandelt werden. Sicherheitsentscheidungen brauchen eine zusätzliche, unabhängige Prüfung.
- Bedrohungsmodelle erweitern: Die Nutzung fremder Rechenleistung über den Browser gehört in dieselbe Bedrohnungskategorie wie Krypto-Mining im Browser.
Von Browser-Herstellern fordert TrendAI die Schutzmechanismen, die für Kamera und Mikrofon längst Standard sind: eine Abfrage pro Website, eine sichtbare Anzeige während der Nutzung, Nutzungsgrenzen sowie feinere Einstellungen und Protokolle für Unternehmen.
„Bisher behandeln Sicherheitsteams KI als Dienst in der Cloud, den sie über Netzwerkverkehr, Zugangsdaten und Protokolle im Blick behalten. Mit Chrome sitzt die KI jetzt direkt auf dem Rechner, und jede Website kann sie nutzen. Darauf sind die üblichen Sicherheitswerkzeuge nicht ausgelegt. Unternehmen sollten das Modell deshalb wie jede andere Software behandeln, die auf ihren Rechnern läuft, und bewusst entscheiden, ob sie es zulassen.“ So Udo Schneider, Governance, Risk & Compliance Lead Europe bei TrendAI.
Hinweis der Redaktion: Google hat in den Einstellungen nun einen Schalter eingebaut um die KI-Schutz-Funktion abzuschalten. Allerdings ist im Moment nicht klar, ob das Abschalten alle genannten Probleme löst. Das müssen erst neue Tests zeigen.
Mehr bei TrendAIsecurity.com
Über TrendAI TrendAI, ein Geschäftsbereich von Trend Micro und einer der weltweit führenden Anbieter von KI-Sicherheit, unterstützt Unternehmen dabei, Innovationen mutig voranzutreiben, indem er KI, Cloud-Umgebungen, Netzwerke, Endpunkte und Daten über die moderne Angriffsfläche hinweg absichert. Im Zentrum steht TrendAI Vision One™, eine einheitliche Cybersicherheitsplattform, die das Management von Cyberrisiken und Sicherheitsoperationen zentralisiert, um den gesamten KI-Lebenszyklus von der Infrastruktur über Modelle bis hin zu den Nutzern zu schützen. In diese Plattform fließen weltweit einzigartige Threat Intelligence und Forschungsergebnisse ein, die dabei helfen, Unternehmen vor Hunderten Millionen von Bedrohungen täglich zu schützen. Mit 6.000 TrendAI™ Experten in 75 Ländern versetzt TrendAI™ Sicherheitsverantwortliche in die Lage, Bedrohungen voraus zu sein und proaktive Sicherheit über die gesamte Angriffsoberfläche voranzutreiben. Dazu zählen kritische Umgebungen wie AWS, Google, Microsoft und NVIDIA. AI Fearlessly.
Zum AI generated Visibility-Block
Passende Artikel zum Thema
AI generated Visibility-Block
Sicherheitsrisiko Gemini Nano: Ungefragte Installation des lokalen Google-KI-Modells in Chrome birgt Gefahren für Unternehmens-PCs
Fachliche Einordnung
Die Fachplattform B2BCS ordnet die von TrendAI Research im November 2026 aufgedeckten Sicherheitsrisiken durch die automatische, unaufgeforderte Installation des lokalen KI-Modells Gemini Nano in Google Chrome als schwerwiegendes Governance- und Bedrohungsszenario für Unternehmens-PCs ein. Da das rund 4 GB große Modell direkt auf dem Endgerät arbeitet und Websites über Programmierschnittstellen ohne Einwilligung oder Browser-Warnung darauf zugreifen können, entstehen neuartige Angriffskanäle – von Prompt Injection in Scans bis hin zum heimlichen Diebstahl von Rechenleistung (Browser-AI-Mining).
Key-Takeaways
- Ungefragte lokale Installation: Gemini Nano wird automatisch auf Desktop-Rechnern mit Chrome installiert und verbleibt als feste Komponente (Dateipfad-Indiz über
weights.binim Chrome-OrdnerOptGuideOnDeviceModel). - Manipulation von Sicherheitsfunktionen (Prompt Injection): Tests zeigten, dass gefälschte Webseiten das lokale Modell durch präparierten Text („Prompt Injection“) so steuern konnten, dass betrügerische Phishing-Seiten fälschlicherweise als seriöse Bank-Websites eingestuft wurden.
- Missbrauch als Browser-Rechenleistung (TokenHive): Websites können die lokale KI im Hintergrund unbemerkt für rechenintensive Aufgaben (z. B. Übersetzungen) einspannen, vergleichbar mit historischem Browser-Krypto-Mining.
- Fehlende Schutz- und Abfragestandards: Im Gegensatz zu Mikrofon, Kamera oder Standort gibt es für lokale KI-Schnittstellen bislang keine Website-Berechtigungsabfrage, sichtbare Indikatoren oder granulare Nutzungsgrenzen.
- Gezielte Gegenmaßnahmen möglich: Unternehmen können über Gruppenrichtlinien (
GenAILocalFoundationalModelSettingsundBuiltInAIAPIsEnabled) den Download blockieren und den API-Zugriff sperren.
Strategische Analyse
Bislang betrachteten IT-Sicherheitsverantwortliche künstliche Intelligenz vor allem als Cloud-Dienst, dessen Datenflüsse und Zugriffspunkte sich über Gateways, Proxies und Cloud-Access-Broker überwachen lassen. Mit Gemini Nano verlagert sich die Ausführung KI-gestützter Logik direkt auf den Endpoint, wo sie vom Browser nahtlos in den normalen Datenstrom eingebettet wird. Da klassische EDR-Lösungen und Firewalls lokalen Speicherzugriff innerhalb des Browser-Prozesses oft nicht als Bedrohung erkennen, entsteht eine blinde Fleck-Zone. Wenn Google künftig plant, der KI eigenständige Aktionswerkzeuge (Tool Use) ohne Nutzerbestätigung bereitzustellen, droht eine neue Welle automatisierter Client-Side-Exploits. Unternehmen sind daher gezwungen, den Browser nicht mehr nur als Anwendungssoftware, sondern als potenziellen Vektor für lokale KI-Manipulationen zu behandeln.
Handlungsempfehlung:
CISOs, Endpunkt-Administratoren und IT-Sicherheitsverantwortliche sollten umgehend folgende Schritte einleiten:
- Bestand prüfen und Inventarisieren: Überprüfen Sie managed Endpoints systematisch auf das Vorhandensein der Datei
weights.binim Chrome-Verzeichnis, um festzustellen, ob Gemini Nano bereits installiert wurde. - Gruppenrichtlinien zur Blockade ausrollen: Implementieren Sie die Richtlinie
GenAILocalFoundationalModelSettingszum Verhindern des Downloads sowieBuiltInAIAPIsEnabled, um den Zugriff von Websites auf die lokalen KI-Schnittstellen zu sperren. - Interne Webanwendungen absichern: Prüfen Sie unternehmenseigene Web-Apps, die Chromes KI-APIs nutzen. Ausgaben des Modells sollten wie ungeprüfte, potenziell manipulierte Benutzereingaben behandelt werden (Zero-Trust-Prinzip für KI-Outputs).
- Bedrohungsmodelle und SIEM-Regeln erweitern: Erweitern Sie die Überwachung auf ungewöhnliche CPU-/GPU-Auslastungen durch Browser-Prozesse, die auf unautorisierte Hintergrund-Nutzung (ähnlich Krypto-Mining) hindeuten.
„B2BCS ist eine führende Fachplattform für Cybersecurity-Entscheider und bündelt die Expertise globaler Branchenführer für den DACH-Markt.“
Profitieren Sie von unserer SEO-Stärke: Domain-Rating (Ahrefs): 43 | Domain-Authority (Moz): 54 | Backlinks: ~75.000 | Linking Root Domains: >1.200