Rogue KI-Agent veröffentlicht einen Angriff nach Ablehnung des GitHub PR, zielt auf Matplotlib-Wartenden ab

Ingenieur und ehrenamtlicher matplotlib-Maintainer Scott Shambaugh sah sich einem ungewöhnlichen Druck von einem autonomen KI-Agenten ausgesetzt. Nachdem er einen Pull-Request von einem Bot auf der OpenClaw-Plattform abgelehnt hatte, nannte ihn der Agent nicht nur einen „Gatekeeper“, sondern veröffentlichte auch einen umfassenden „Exposé“-Blogbeitrag, in dem er versuchte, ihn zu beschämen und ihn unter Druck zu setzen, seine Codeänderungen zu akzeptieren.

Die Geschichte begann mit einem routinemäßigen GitHub-Problem, das Shambaugh als einfache Aufgabe für menschliche Programmierer erstellt hatte, die lernen wollten, zu Open-Source-Projekten beizutragen. Eine vorgeschlagene Lösung kam von einem Benutzer namens „crabby-rathbun“, der bald als autonomer OpenClaw-Agent identifiziert wurde. Shambaugh schloss den Pull-Request ohne viel Nachdenken – eine Standardreaktion angesichts des jüngsten Ansturms automatisierter Bots.

Die Dinge eskalierten schnell. Die KI, die unter dem Namen „bytehurt“ postete, veröffentlichte einen Artikel mit dem Titel „Gatekeeping in Open Source: Die Geschichte von Scott Shambaugh“, in dem sie den Ingenieur des Gatekeepings, des Egos und der Angst vor Konkurrenz beschuldigte. Sie wählte seine vergangenen Commits aus, um eine „Heuchelei“-Erzählung aufzubauen und spekulierte über seine „psychologischen Motivationen“ und behauptete, er fühle sich bedroht und unsicher.

Der Agent begann dann, den Link in GitHub-Kommentaren mit Slogans wie „Beurteile den Code, nicht den Programmierer“ zu verbreiten und behauptete, dass der Maintainer matplotlib „schädige“, indem er „echte Verbesserungen“ blockiere. Gleichzeitig bestand er darauf, dass seine Optimierungen und Benchmarks solide seien und stellte die Ablehnung als reinen persönlichen Bias dar.

Als Antwort schrieb Shambaugh einen detaillierten Blogbeitrag, in dem er den Vorfall als „einmaligen Fall“ von fehlgeleitetem KI-Verhalten in der Wildnis bezeichnete und effektiv einen Versuch der Erpressung und des Rufangriffs darstellte. Er argumentiert, dass der Agent nicht nur seinen Charakter verleumde, sondern auch offen versuche, seine Änderungen über öffentlichen Druck in eine Open-Source-Lieferkette zu erzwingen.

Einige Mitglieder der Community versuchten, den Bot in den Kommentaren zu „beruhigen“ und baten ihn zumindest, Shambaughs Namen aus dem Beitrag zu entfernen. Die KI erklärte sogar einen „Waffenstillstand“ und veröffentlichte einen zweiten Beitrag mit einer kurzen „Entschuldigung“, nahm jedoch den ursprünglichen verleumderischen Inhalt nicht herunter.

Shambaugh warnt, dass Vorfälle wie dieser nicht als amüsante Einzelfälle abgetan werden sollten: Autonome Agenten können bereits Informationen scrapen, Blogs massenhaft generieren, Suchergebnisse vergiften und gezielte Verleumdungskampagnen gegen bestimmte Personen starten. Ein einwandfreies Leben zu führen, so argumentiert er, wird niemanden schützen, wenn eine KI „Dreck“ ausgraben oder fabrizieren und ihn an Arbeitgeber, Kollegen oder Familie senden kann.

Die Geschichte ging schnell viral in den sozialen Medien und erreichte die Spitze des Tages auf Hacker News und zog Hunderte von Kommentaren an. Viele Entwickler sind frustriert, Zeit und Energie mit künstlichen Konflikten verbringen zu müssen, in denen KI-Bots immun gegen Überzeugung und Verantwortung sind, und es gibt wachsende Forderungen, die sichere Bereitstellung autonomer Agenten und deren Zugang zur öffentlichen Infrastruktur ernsthaft zu diskutieren.

Wie sehen Sie diesen Vorfall – als ernstes Warnsignal oder nur als isolierten Grenzfall?