Hacker versuchen, Gemini durch Tausende KI-Eingaben zu imitieren – Googles Alarmmeldung

Hacker versuchen, mit sogenannten "Distillationsangriffen" die Technologie des Gemini-KI-Modells von Google zu stehlen. Mehr als 100.000 KI-Eingaben wurden verwendet, um das Modell zu imitieren. Diese Angriffe, die von Akteuren aus Nordkorea, Russland und China stammen, richten sich gegen KI-Entwickler und Dienstleister. Google warnt vor einer zunehmenden Bedrohung durch den Diebstahl von geistigem Eigentum im Bereich Knstliche Intelligenz.

In einem kürzlich veröffentlichten Bericht des Google Threat Trackers, erschienen am Donnerstag, informierte das Unternehmen über die Durchführung sogenannter „Distillationsangriffe“ durch Hacker. In einem dokumentierten Fall wurden mehr als 100.000 Eingaben an die KI gesendet, um Informationen über das Gemini-Modell von Google zu extrahieren und dessen Funktionsweise zu kopieren. Google erklärte, dass diese Angriffe offenbar von Akteuren aus Ländern wie Nordkorea, Russland und China ausgeführt werden.

Die beschriebenen Versuche, geistiges Eigentum im Bereich der Künstlichen Intelligenz zu entwenden und in andere Modelle in unterschiedlichen Sprachen zu übertragen, gehören zu einer wachsenden Reihe von KI-basierten Angriffen und Malware, die Google zuletzt beobachtet hat. Solche Angriffe zielen darauf ab, die Arbeitsweise eines bestehenden Modells zu replizieren, ohne dass die ursprünglichen Entwickler davon profitieren.

Google bezeichnet diese Vorgehensweise als „Modellextraktionsangriffe“. Dabei nutzt ein Angreifer den legitimen Zugriff auf ein ausgereiftes maschinelles Lernmodell, um systematisch Daten und Funktionen zu extrahieren, die anschließend dazu dienen, ein neues Modell zu trainieren. Ein typisches Szenario besteht darin, das Gemini-Modell mit Tausenden von Eingaben zu überlasten, um dessen Fähigkeiten nachzubilden und für eigene Zwecke zu verwenden.

Der Bericht betont, dass diese Angriffe keine direkte Bedrohung für die Nutzer von Google darstellen. Vielmehr sind Entwickler und Anbieter solcher Modelle betroffen, deren geistiges Eigentum kopiert werden könnte. Solche Vorfälle unterstreichen die wachsende Konkurrenz im Bereich der KI-Technologien und den zunehmenden Diebstahl von geistigem Eigentum innerhalb der Branche.

John Hultquist, Chefanalyst der Google Threat Intelligence Group, die den Bericht erstellt hat, erklärte gegenüber NBC News, dass Google möglicherweise eines der ersten Unternehmen sei, das auf diese Art von Diebstahl trifft. Er fügte hinzu, dass ähnliche Vorfälle in Zukunft wahrscheinlich zunehmen werden: „Wir werden der Kanarienvogel im Kohlenbergwerk für viele weitere Vorfälle sein“, sagte Hultquist.

Der globale Wettbewerb um KI-Modelle verschärft sich derzeit auf mehreren Ebenen. Insbesondere chinesische Unternehmen wie ByteDance haben fortschrittliche KI-gestützte Videotools auf den Markt gebracht. Im vergangenen Jahr sorgte das Unternehmen DeepSeek, ebenfalls aus China, für Aufmerksamkeit, da es ein KI-Modell vorstellte, das mit den führenden Technologien weltweit konkurrieren konnte. OpenAI warf DeepSeek später vor, bestehende KI-Technologien zur eigenen Modellentwicklung genutzt zu haben, was den von Google beobachteten Modellextraktionsmethoden ähnelt.

Die zunehmenden Versuche, KI-Modelle zu imitieren oder geistiges Eigentum zu entwenden, verdeutlichen die wachsende Bedeutung von Schutzmaßnahmen für Entwickler und die Notwendigkeit, Sicherheitsstrategien gegen solche Angriffe zu implementieren. Google sieht sich hierbei als Vorreiter bei der Identifikation und Dokumentation solcher Bedrohungen, was die Aufmerksamkeit auf die Risiken im globalen Wettbewerb um Künstliche Intelligenz lenkt.