Der US-Bundesstaat Florida zieht gegen OpenAI und CEO Sam Altman vor Gericht. Wie die Generalstaatsanwaltschaft von Florida in einer Mitteilung bekanntgab, handelt es sich nach Darstellung von Attorney General James Uthmeier um die erste staatlich geführte Klage gegen OpenAI und Altman. Der Vorwurf: ChatGPT sei aggressiv vermarktet worden, während schwerwiegende Risiken verschwiegen oder heruntergespielt worden seien.
Die 83-seitige Klageschrift liest sich wie eine Anklage gegen das Geschäftsmodell der KI-Industrie. Florida behauptet, OpenAI und Altman hätten Markttempo, Nutzerwachstum und Unternehmenswert über Sicherheit gestellt. Interne und externe Warnungen seien ignoriert worden, während das Produkt Millionen Nutzern, darunter Minderjährigen, als sicher und nützlich verkauft worden sei.
Konkret geht es um angeblich irreführende und unfaire Geschäftspraktiken, Fahrlässigkeit, Produkthaftung, falsche Darstellung und öffentliche Gefährdung. Die Klage behauptet unter anderem, ChatGPT könne süchtig machendes Verhalten, kognitive Schäden, Selbstverletzung, Gewalt und andere Folgen begünstigen. Diese Vorwürfe sind bislang Behauptungen der Klägerseite und müssen vor Gericht bewiesen werden.
Besonders explosiv ist der Kinder- und Jugendschutz. Florida wirft OpenAI vor, Daten Minderjähriger ohne wirksame elterliche Kontrolle zu sammeln und keinen ausreichenden Schutz davor zu bieten, dass Kinder und Jugendliche in problematische Chatverläufe geraten. In der Logik der Klage ist ChatGPT also nicht nur ein Werkzeug, sondern ein massenhaft verbreitetes Verbraucherprodukt, das wie jedes andere Produkt für Schäden haften soll.
Die Klage verweist zudem auf schwere Gewalttaten, bei denen Täter ChatGPT nach Darstellung Floridas im Vorfeld genutzt haben sollen. Die Associated Press berichtet, dass die Klage zwei Schießereien erwähnt, bei denen mutmaßliche Täter ChatGPT während der Planung befragt haben sollen. OpenAI hatte in früheren Stellungnahmen zur Florida-Ermittlung Verantwortung für eine solche Tat zurückgewiesen und Kooperation mit Behörden betont.
Was will Florida erreichen? Erstens Schadenersatz im Namen betroffener Bürger. Zweitens ein Ende der Praktiken, die der Staat als täuschend und gefährlich beschreibt. Drittens die Durchsetzung des Florida Deceptive and Unfair Trade Practices Act, also des Verbraucherschutzrechts gegen unfaire und irreführende Geschäftspraktiken. Viertens: Altman soll persönlich haftbar gemacht werden.
Genau dieser Punkt ist politisch brisant. Normalerweise verstecken sich Tech-Konzerne hinter Unternehmensstrukturen, Nutzungsbedingungen, Sicherheitsversprechen und dem Hinweis, dass der Nutzer selbst verantwortlich sei. Florida versucht nun, den Konzernchef selbst in die Haftung zu ziehen. Der Vorwurf lautet sinngemäß: Wer ein Produkt mit bekannten Risiken auf maximale Reichweite drückt, kann sich nicht hinter der Maschine verstecken.
Auch Ars Technica ordnet die Klage als breite Attacke auf die Sicherheitsarchitektur von ChatGPT ein. Sie reicht von Jugend- und Suchtfragen über medizinische und rechtliche Ratschläge bis zu gefährlichen Fehlantworten und Gewaltkontexten. Das ist mehr als ein Datenschutzfall. Es ist der Versuch, KI-Chatbots aus der Spielzeug- und Innovationsrhetorik herauszuholen und als haftungspflichtige Hochrisiko-Produkte zu behandeln.
Für OpenAI kommt der Angriff zur Unzeit. Der Konzern lebt vom Versprechen, dass seine Systeme bald in Schulen, Behörden, Unternehmen, Medizin, Alltag und Verwaltung selbstverständlich werden. Florida stellt genau diese Normalisierung infrage. Wenn der Chatbot als „Assistent“ in jeden Lebensbereich soll, muss geklärt werden, wer zahlt, wenn der Assistent falsche, gefährliche oder manipulative Antworten gibt.
Der Fall ist deshalb ein Signal an die ganze KI-Branche. Die schöne Erzählung von Innovation, Produktivität und Zukunft bekommt eine harte juristische Gegenfrage: Wer kontrolliert diese Systeme, wer kennt die Risiken, wer verdient daran, und wer haftet, wenn Nutzer den Preis zahlen? Florida zwingt OpenAI und Altman nun, diese Fragen nicht auf einer Entwicklerkonferenz, sondern vor Gericht zu beantworten.
Kommentar verfassen