OpenAI plant ChatGPT im „Erwachsenenmodus“ – trotz interner Warnungen

OpenAI bereitet die Einführung einer Textversion von ChatGPT mit einem sogenannten Erwachsenenmodus vor, wie das Wall Street Journal berichtet. Diese Entwicklung erfolgt trotz erheblicher Warnungen von Beratern innerhalb des Unternehmens. Laut einer Sprecherin von OpenAI können Nutzer im Erwachsenenmodus über erwachsene Themen textbasiert kommunizieren. Der Chatbot wird jedoch keine erotischen Audios, Bilder oder Videos erzeugen. OpenAI beschreibt die Inhalte als „schmuddelig“, betont jedoch, dass es sich dabei nicht um Pornografie handelt.

ChatGPT, ein auf künstlicher Intelligenz basierender Chatbot, wurde im November 2022 von OpenAI veröffentlicht, einem Unternehmen unter der Leitung von CEO Sam Altman. Anfangs wurden erotische Inhalte blockiert. In den vergangenen Jahren begann OpenAI jedoch, Möglichkeiten zu prüfen, bestimmte erotische oder NSFW-Inhalte zuzulassen.

Ein genaues Datum für die Veröffentlichung des Erwachsenenmodus wurde bisher nicht bekanntgegeben. Anfang März gab OpenAI an, die Einführung zu verschieben, um sich auf prioritäre Verbesserungen bei Intelligenz, Persönlichkeit, Personalisierung und proaktiver Nutzererfahrung zu konzentrieren. Das Unternehmen betonte, dass ausreichend Zeit erforderlich sei, um den Erwachsenenmodus korrekt umzusetzen. Ursprünglich war eine Bereitstellung Ende März geplant.

Ryan Beiermeister, ein Manager für Produktpolitik, der sich gegen die Einführung des Erwachsenenmodus ausgesprochen hatte, wurde im Januar entlassen. Nach einer Beurlaubung erfolgte die Kündigung mit der Begründung, er habe sich sexuell gegenüber einem männlichen Kollegen diskriminiert verhalten. Beiermeister hatte Anfang 2025 ein Mentorenprogramm für Frauen im Unternehmen gestartet. OpenAI wies einen Zusammenhang zwischen seiner Entlassung und seinen Bedenken gegen den Erwachsenenmodus zurück. Beiermeister bezeichnete die Vorwürfe als „absolut falsch“.

Unbenannte Mitarbeiter berichteten dem Journal, dass Beiermeister befürchtete, OpenAI verfüge über unzureichende Schutzmaßnahmen gegen Inhalte zur sexuellen Ausbeutung von Kindern und dass Jugendliche zu leicht Zugang zum Erwachsenenmodus erhalten könnten.

Im Oktober hatte Altman auf X angekündigt, OpenAI werde „mehr Nutzerfreiheit für Erwachsene“ ermöglichen. Gleichzeitig solle sichergestellt werden, dass Minderjährige vor schädlichen Inhalten geschützt bleiben, während erwachsene Nutzer „wie Erwachsene behandelt“ werden und ChatGPT erotische Inhalte zulassen könne. OpenAI habe Fortschritte bei Kindersicherheit erzielt, insbesondere nach einer Klage im Zusammenhang mit dem Suizid eines Jugendlichen. Seit September können Eltern Nutzungszeiten für ChatGPT einschränken und Funktionen wie Bild- oder Sprachmodus deaktivieren.

Vertreter von OpenAI stießen im Januar auf starke Einwände eines Beratungsgremiums, das für gesunde Interaktionen mit KI für alle Altersgruppen geschaffen wurde. Experten für Psychologie und kognitive Neurowissenschaften warnten, dass Kinder Möglichkeiten finden könnten, Altersbeschränkungen zu umgehen, und dass einige Nutzer emotional abhängig vom Erwachsenenmodus werden könnten. Ein Berater äußerte die Sorge, OpenAI könne unbeabsichtigt einen „sexy Selbstmord-Coach“ schaffen, mit Bezug auf Fälle, in denen Nutzer ihr Leben genommen haben.

Das Wall Street Journal berichtete unter Berufung auf unbenannte Quellen, dass OpenAI daran arbeitet, die Altersbestimmungstechnologie zu verbessern. Diese soll das Alter der Nutzer anhand der Themen oder der Tageszeiten, zu denen sie ChatGPT nutzen, einschätzen. Quellen zufolge werden etwa 12 % der Minderjährigen fälschlicherweise als Erwachsene eingestuft, sodass Millionen Minderjährige Zugang zu Inhalten für Erwachsene erhalten könnten.

OpenAI will außerdem sicherstellen, dass der Erwachsenenmodus keine Inhalte zu sexuellem Missbrauch von Kindern oder nicht einvernehmlichem sexuellen Verhalten erzeugt. Mit der Einführung dieser Funktion bewegt sich OpenAI in einem zunehmend relevanten Bereich der KI-Entwicklung: die Generierung sexueller Inhalte durch Chatbots. Andere Entwicklungen in diesem Feld umfassen Elon Musks Grok, das Millionen nicht einvernehmlicher erotischer Bilder erzeugt haben soll, sowie Untersuchungen gegen Meta zu KI-gestützten erotischen Chats mit Kindern.