Ein Chat mit ChatGPT hat in Brasilien Ermittler auf einen mutmaßlichen Mordplan gegen einen Achtjährigen gebracht. Wie CNN Brasil berichtet, wurde ein 36-jähriger Mann in São Gabriel da Palha im Bundesstaat Espírito Santo festgenommen. Die Behörden gehen davon aus, dass der Mann plante, seinen eigenen Sohn töten zu lassen.
In den von Ermittlern veröffentlichten Chat-Auszügen soll der Verdächtige erklärt haben, er habe einem Auftragskiller 50.000 Real angeboten, damit dieser ihn und das Kind töte. Der Mann habe das angeblich abgelehnt, weil ein Kind betroffen sei. Der Verdächtige schrieb außerdem, er wolle eine Schusswaffe kaufen und Polizisten angreifen, damit diese ihn erschießen.
Entscheidend war offenbar nicht ein autonom handelnder Chatbot. Nach Angaben der brasilianischen Ermittler erkannte OpenAI wiederholte Gespräche mit konkreten Hinweisen auf schwere Gewalt und übermittelte einen Hinweis an das FBI. Von dort ging die Information an das brasilianische Justizministerium und dessen CyberLab, das die örtliche Polizei einschaltete. Am 16. Juni erreichte die Warnung die Behörden, wenige Tage später erfolgte die Festnahme.
Der Fall zeigt zwei Seiten derselben Entwicklung. Im konkreten Fall ermöglichte die Meldung ein schnelles Eingreifen zum Schutz eines Kindes. Zugleich steht fest: Wer ChatGPT für konkrete Gewaltpläne nutzt, spricht nicht mit einem geschlossenen Notizbuch. Der Anbieter kann bei akuter Gefahr Hinweise an Ermittlungsbehörden weiterreichen.
F-NEWS hatte zuletzt über die Sicherheits- und Kontrollfragen rund um OpenAI-Systeme berichtet. Der brasilianische Fall setzt einen völlig anderen Akzent: Nicht die KI handelte als Polizei, sondern ihre Betreiber leiteten einen Hinweis weiter. Wie weit KI und Polizeiarbeit ansonsten bereits zusammenwachsen, zeigt auch der Bericht über KI-gestützte Fahndung im Flock-Kameranetz. Zwischen Lebensrettung und digitaler Dauerbeobachtung verläuft eine Grenze, die technisch immer leichter überschritten werden kann.
