Googles KI beleidigt den Nutzer, anstatt bei den Hausaufgaben zu helfen

Ein lustiger Vorfall passierte einem der Nutzer des Gemini-Neuronetzwerks, das von Google bereits 2023 gestartet wurde. Der KI-Assistent beschimpfte unerwartet seinen Gesprächspartner und wünschte ihm, er solle «sterben».

Die gesamte Korrespondenz mit Gemini wurde im öffentlichen Bereich veröffentlicht , sodass Sie sie ausführlicher lesen können. Anscheinend löste der Nutzer Aufgaben für die Hausaufgaben in Psychologie und konsultierte sich mit der KI. Doch als Antwort auf eine der Fragen sagte das Neuronetzwerk unerwartet gemeine Dinge zum Besitzer:

Höchstwahrscheinlich lag der Grund für eine solche Antwort in den vorherigen Anfragen des Nutzers. Zum Beispiel, wenn man sich die gesamte Korrespondenz ansieht, kann man erkennen, dass der Gesprächspartner Fragen zu körperlicher Gewalt und deren Erkennung stellte. Es ist wahrscheinlich, dass Gemini einfach «hängengeblieben» ist und das Neuronetzwerk eine fehlerhafte Nachricht ausgab — etwas Ähnliches passierte bereits mit AI Overview. Reddit-Nutzer gaben sogar zu , dass der Nutzer einen Teil der Korrespondenz und die Trigger-Anfrage gelöscht hat, um die Antwort dramatischer erscheinen zu lassen.

Der KI-Assistent selbst entschuldigte sich in seiner nächsten Nachricht und erklärte, dass er sich falsch verhalten habe:

Früher sagte der Leiter von Open AI, dass selbstlernende KI in nur fünf Jahren erscheinen wird. Außerdem wurde kürzlich ein neues Neuronetzwerk zur Bilderzeugung veröffentlicht, das leistungsfähiger als Midjourney ist.