Meta führt KI-Werkzeuge ein, die betrügerische Nachrichten entlarven sollen

Meta hat am Mittwoch angekündigt, eine neue Reihe von Werkzeugen einzuführen, die darauf abzielen, Betrugsversuche auf sozialen Plattformen wie WhatsApp, Facebook und Messenger effektiver zu bekämpfen. Ziel dieser Maßnahmen ist es, die wachsenden Probleme durch gefälschte Profile, insbesondere von Prominenten, einzudämmen. Im Jahr 2025 wurden nach Angaben von Meta über 159 Millionen betrügerische Anzeigen entfernt, die die Nutzer in die Irre führten.

Die neuesten Betrugsversuche nutzen zunehmend KI-generierte Inhalte, um falsche Profile zu erstellen oder gefälschte Webseiten zu betreiben. Daher setzt Meta nun eigene KI-gestützte Werkzeuge ein, um die Sicherheit der Nutzer zu erhöhen und betrügerische Aktivitäten schneller zu erkennen.

Schutzmaßnahmen für WhatsApp

Eine der ersten Neuerungen betrifft WhatsApp, die weltweit genutzte Messaging-App, die häufig Ziel von Betrügern wird. Besonders problematisch sind Funktionen zur Geräteverknüpfung, die es ermöglichen, externe Geräte schnell mit einem Konto zu verbinden. Haben Betrüger Zugang zu einem Konto, können sie unter anderem die Identität des Nutzers imitieren und so Freunde oder Familie täuschen. Im vergangenen Jahr entfernte Meta fast 7 Millionen Konten, die für solche betrügerischen Zwecke verwendet wurden.

Betrüger geben sich oft als Verwandte, Verkäufer, Dienstleister oder Content Creator aus und verlangen Telefonnummern, um Geräteverknüpfungscodes oder QR-Codes zu teilen. Viele Nutzer aktivieren diese Codes unbedacht. Die neue WhatsApp-Funktion soll nun Anzeichen für verdächtige Aktivitäten erkennen, zum Beispiel Anfragen aus Ländern, mit denen bisher keine Kommunikation bestand. In solchen Fällen erscheint ein Pop-up-Warnfenster, das den Nutzer auf mögliche Risiken hinweist und ihm die Entscheidung über eine Verbindung überlässt.

Warnungen auf Facebook und Messenger

Auch Facebook führt neue Schutzmechanismen ein, insbesondere Warnmeldungen beim Hinzufügen oder der Kommunikation mit verdächtigen Konten. Meta hat nicht alle Kriterien offengelegt, anhand derer Konten als verdächtig eingestuft werden, doch wie bei WhatsApp wird auf ungewöhnliche geografische Standorte geachtet. Weitere Warnsignale sind Konten, mit denen weder der Nutzer noch seine Freunde bisher interagiert haben. Zusammen mit Warnhinweisen zeigt Facebook zusätzliche Erklärungen an, etwa das Erstellungsdatum des Kontos.

Die Messenger-App führt vergleichbare Funktionen ein, die die Aktivitäten von Konten analysieren, um Muster betrügerischen Verhaltens zu erkennen. Besonders betroffen sind Jobbetrügereien, bei denen gefälschte, hochbezahlte Jobangebote genutzt werden, um persönliche Daten zu stehlen oder Nutzer auf Phishing-Webseiten zu locken.

KI-Scans zur Erkennung gefälschter Inhalte

Messenger enthält jetzt KI-gestützte Scans, die nach Hinweisen auf Betrug suchen. Dabei liegt ein Fokus auf Phishing-Webseiten, die zunehmend authentisch wirken und selbst erfahrene Nutzer täuschen können. Generative KI ermöglicht es, gefälschte Webseiten schnell zu erstellen und Markenlogos exakt zu imitieren.

Meta setzt eigene KI-Tools ein, um betrügerische Inhalte gezielt zu erkennen. Dazu gehört die Analyse von Messenger-Konversationen, um gefälschte Fotos von Prominenten zu identifizieren, sowie die Überwachung ungewöhnlicher Erwähnungen öffentlicher Persönlichkeiten. Diese Systeme sollen außerdem Phishing-Muster auf den Plattformen erkennen und verhindern.

Datenschutz und Ausblick

Die neuen KI-gestützten Betrugserkennungs-Tools von Meta werfen Fragen zum Datenschutz auf. Das Unternehmen erklärt, dass die Funktionen das Verhalten der Konten analysieren, um betrügerische Aktivitäten zu erkennen, jedoch ist unklar, wie die gesammelten Daten verarbeitet oder gespeichert werden. Frühere Kontroversen rund um KI-Projekte von Meta, wie bei den AR-Brillen, zeigen, dass KI-basierte Überwachung unbeabsichtigte Risiken für die Privatsphäre bergen kann. Transparenz und effektive Schutzmaßnahmen bleiben daher entscheidend, um die Sicherheit der Nutzer auf Messaging-Plattformen zu gewährleisten.

Meta hat bisher keinen Zeitplan bekanntgegeben, wann diese neuen Werkzeuge allen Nutzern weltweit zur Verfügung stehen werden.