OpenAI beginnt, die Altersgruppen der ChatGPT-Nutzer für die Inhaltsfilterung zu bestimmen

OpenAI hat begonnen, ein System zur automatischen Altersbewertung von ChatGPT-Nutzern einzuführen. Die neue Technologie soll Konten identifizieren, die wahrscheinlich von Personen unter 18 Jahren stammen, und spezielle Inhaltsfilter anwenden.

Der Altersbewertungsmechanismus analysiert eine Kombination aus indirekten Signalen der Nutzeraktivität. Der Algorithmus berücksichtigt Verhaltensmuster: das Alter des Kontos, die typische Tageszeit für Sitzungen, die Abfragehistorie und, falls angegeben, das vom Nutzer angegebene Alter. Wenn ein minderjähriger Nutzer erkannt wird, aktiviert der Chatbot automatisch zusätzliche Einschränkungen, die Diskussionen im Dialog über Gewalt, gefährliche Herausforderungen, sexuelle oder gewalttätige Rollenspiele, Selbstverletzung sowie Inhalte, die extreme Schönheitsstandards oder ungesunde Diäten fördern, blockieren.

Der Entwickler weist darauf hin, dass der Ansatz auf Expertenbewertungen basiert und die Besonderheiten der Risikowahrnehmung von Jugendlichen, Impulsivität und den Einfluss von Gleichaltrigen berücksichtigt. Im Falle einer fehlerhaften Altersbestimmung kann ein erwachsener Nutzer schnell seinen Status über den Persona-Überprüfungsdienst bestätigen, indem er ein Selfie einreicht. Das Update ergänzt bestehende Elternkontrollwerkzeuge, die es ermöglichen, „Ruhezeiten“ festzulegen, die Speicherfunktion des Chatbots zu verwalten und Benachrichtigungen über besorgniserregende Aktivitätssignale zu erhalten.

Die Implementierung des Systems erfolgt vor dem Hintergrund einer erhöhten Überprüfung durch Regulierungsbehörden, einschließlich einer Untersuchung der Federal Trade Commission in den USA, zu den potenziellen Risiken von KI-Diensten für junge Menschen. In der Europäischen Union ist die Einführung der Altersbewertung für die kommenden Wochen geplant, um den lokalen Datenschutzbestimmungen zu entsprechen.

OpenAI erklärt, dass es beabsichtigt, die Genauigkeit des Algorithmus weiter zu verbessern und mit Experten für Kinderpsychologie und digitale Sicherheit zusammenzuarbeiten. Das Unternehmen betont, dass das System im Zweifelsfall dazu neigt, einen sichereren Interaktionsmodus zu wählen.