Stell dir mal vor, du heulst dich bei ChatGPT über deine*n Ex aus, fragst die KI, ob du diese eine, ultra-peinliche Nachricht wirklich abschicken sollst, und am nächsten Tag kann die ganze Welt mitlesen. Absoluter Albtraum, oder? Tja, für fast 100.000 Leute ist genau das jetzt die Cringe-Realität geworden.
Ein smarter Forscher hat sich mal eben fast 100.000 Konversationen von ChatGPT gekrallt, die von den Usern selbst – safe ohne es wirklich zu checken – auf “öffentlich” gestellt wurden. Und weil Google neugieriger ist als deine Nachbarin, hat die Suchmaschine das alles schön indexiert, also quasi für jeden auffindbar gemacht.
Was wurde da so geleakt? ALLES, Digga!
Die Liste ist wilder als jede After-Hour. In dem Datensatz, den sich die Kollegen anschauen durften, war einfach alles am Start:
- Top-Secret-Business-Stuff: Leute, die anscheinend den Geheimhaltungsvertrag von OpenAI selbst hochgeladen haben. Big Brain Time!
- Herzschmerz Deluxe: Ein User, der die KI fragt, ob er seiner “großen Liebe” eine letzte Nachricht schicken soll – inklusive Chatbot-formuliertem Textentwurf. Yikes.
- Illegal? Egal!: Irgendein Chef, der ChatGPT mal eben einen kompletten Vertrag für seine Firma schreiben lässt. Ob der Anwalt das so geil findet?
- Doxxing für Anfänger: Chats von anonymen Accounts, die aber so viele persönliche Details und Namen droppen, dass man easy rausfinden kann, wer da seine Seele an eine Maschine verkauft hat.
OpenAI so: “Oopsie, war nur ein Experiment”
Was sagt der Laden, dem die Kacke jetzt am Dampfen ist? OpenAI hat die krasse Zahl von 100.000 geleakten Chats nicht mal bestritten. Der Sicherheits-Chef meinte nur so in einem Statement, das war ein “kurzlebiges Experiment”, um coole Gespräche zu sharen. Ah ja. Anscheinend mussten die User extra ein Häkchen setzen, damit ihre Chats bei Google & Co. landen. Problem: Kaum einer hat wohl gerafft, dass “teilen” hier “für die ganze Welt sichtbar machen” bedeutet. Lost.
Die Funktion wurde mittlerweile wieder gekillt. “Letztendlich sind wir der Meinung, dass diese Funktion zu viele Möglichkeiten für Leute geschaffen hat, versehentlich Dinge zu teilen, die sie nicht beabsichtigt haben”, so der CISO von OpenAI. Besser spät als nie, oder? Man will jetzt auch versuchen, die Suchergebnisse bei Google wieder löschen zu lassen.
Der Haken an der Sache? Zu spät!
Auch wenn OpenAI jetzt auf Schadensbegrenzung macht, ist der Drops gelutscht. Was einmal im Internet ist, bleibt im Internet. Der Forscher hat die Daten ja schon massenhaft runtergeladen und gebunkert. Und wer weiß, wer noch alles. Deine “geheimen” Gespräche mit der KI könnten also für immer auf irgendeiner Festplatte da draußen schlummern.
Also, nächstes Mal, wenn du ChatGPT was fragst: Überleg dir zweimal, ob du das auch auf ein Plakat am Hauptbahnhof drucken würdest. Safe ist safe.
Dein News-Snitch für freshe Headlines! Stay tuned und lass dich flashen!
