ChatGPT Wird Jetzt Schätzen, Ob Du Unter 18 Bist, Um Deine Inhalte Zu Beschränken

OpenAI hat nun damit begonnen, eine Technologie zur Altersvorhersage fr ChatGPT-Nutzerkonten einzufhren. In einem aktuellen Beitrag erklrte das Unternehmen, dass bei Nutzern, die unter 18 Jahre alt sind und ihr Alter nicht angegeben haben, die Software das Verhalten der Person sowie weitere Hinweise wie die Dauer des Kontos und Aktivittszeiten nutzt, um das Alter zu schtzen. Sollte jemand flschlicherweise als minderjhrig eingestuft werden, bietet OpenAI eine Lsung durch den Identittsverifizierungsdienst Persona an. Dieser erfordert ein Live-Selfie und einen staatlich ausgestellten Ausweis, um die Identitt zu besttigen. Eine spezielle ChatGPT-Seite fhrt direkt zur Altersverifizierung.

Das neue System, das bereits im September letzten Jahres im Rahmen umfangreicher nderungen fr jngere Nutzer angekndigt wurde, integriert zustzliche Sicherheitsmanahmen in den KI-Chatbot von ChatGPT. Laut OpenAI sollen diese Manahmen Schutz bieten, um die Exposition gegenber sensiblen oder potenziell schdlichen Inhalten zu verringern. Auf einer eigenen Support-Seite erlutert das Unternehmen genauer, welche Inhalte gefiltert werden. Dazu gehren unter anderem grafische Gewalt, Darstellungen von Selbstverletzungen, virale Herausforderungen, die riskantes oder schdliches Verhalten frdern knnten, sowie Rollenspiele mit sexuellen, romantischen oder gewaltttigen Themen. Auch Inhalte, die extreme Schnheitsideale, ungesunde Diten oder Body-Shaming untersttzen, werden herausgefiltert.

Die Einfhrung dieser Altersvorhersagetechnologie erfolgt vor dem Hintergrund wachsender Kritik an KI-Technologien und der zunehmenden Anzahl von Klagen sowie Untersuchungen in Bezug auf Todesflle von Jugendlichen, die mit Chatbots, einschlielich ChatGPT, interagiert haben. Im vergangenen Jahr kndigte OpenAI ebenfalls an, zustzliche elterliche Kontrollfunktionen in die Plattform zu integrieren. Altersverifizierung und altersbasierte Zugangsbeschrnkungen sind zunehmend ein Thema in verschiedenen Online-Diensten, auch durch neue gesetzliche Regelungen in verschiedenen Lndern und US-Bundesstaaten. So fhrte die Gaming-Plattform Roblox krzlich verpflichtende Altersberprfungen ein, whrend in Australien ein Gesetz verabschiedet wurde, das Kindern unter 16 Jahren den Zugang zu sozialen Medien verbietet.

Wie genau die Altersvorhersage von ChatGPT in der Praxis funktionieren wird, bleibt jedoch noch unklar. Es ist bisher nicht bekannt, wie przise die Software das Alter von Nutzern mit rund 800 Millionen wchentlich aktiven Nutzern einschtzen kann und wie schnell diese Technologie weiterentwickelt wird. Experten, wie Jake Parker, Senior Director of Government Relations bei der Security Industry Association, gehen jedoch davon aus, dass die Altersverifizierungstechnologie gut funktioniert. Sie habe gengend Zeit zur Entwicklung gehabt und werde allgemein als zuverlssig angesehen. Moderne Gesichtserkennungs- und Analysewerkzeuge, die richtig implementiert werden, knnen auergewhnlich przise arbeiten, so Parker.

Die US-Regierung fhrt eine kontinuierliche technische Bewertung solcher Technologien durch das National Institute of Science and Technology (NIST) durch. Diese Programme zeigen, dass die besten 100 Algorithmen mehr als 99,5 % genau sind, um Identittsverifikationen vorzunehmen, auch ber verschiedene demografische Gruppen hinweg. Die besten Technologien zur Altersbestimmung sind ber 95 % genau, erklrt Parker. Es ist klar, dass immer mehr Plattformen und Dienste auf Altersverifikation und biometrische Scans setzen, um eine altersgerechte Nutzung zu gewhrleisten.

Dennoch stellt die Technologie zum Schutz von Jugendlichen nicht die vollstndige Lsung dar, warnt Kristine Gloria, Chief Operating Officer von Young Futures, einer Organisation, die mit Jugendlichen und Lehrern an Programmen zur Frderung von Unternehmertum arbeitet. Wir wissen, dass generative KI echte Herausforderungen mit sich bringt, und Familien bentigen Untersttzung, um damit umzugehen, sagt Gloria. Allerdings hat strenge berwachung ihre Grenzen. Um wirklich Fortschritte zu erzielen, mssen wir Sicherheit von Anfang an frdern, wobei Plattformen das Wohl der Jugendlichen ebenso wie das Engagement in den Vordergrund stellen mssen.

Gloria ist der Ansicht, dass der richtige Schutz fr Kinder Transparenz, Verantwortung und ein Engagement fr digitale Bildung erfordert. Unser Ziel sollte es sein, Umgebungen zu schaffen, in denen Sicherheit eine grundlegende Voraussetzung ist, anstatt auf technische Schnelllsungen oder Notfallmanahmen zurckzugreifen, fgte sie hinzu.