Der KI-Chatbot Grok von Elon Musks Unternehmen xAI hat vertrauliche Nutzerkonversationen unbeabsichtigt öffentlich gemacht. Nach einer Recherche des Magazins "Forbes" sind über 370.000 Chats frei im Netz zugänglich und lassen sich über gängige Suchmaschinen wie Google, Bing oder Duckduckgo auffinden. Ursache ist eine fehlerhafte Teilen-Funktion. Klickt ein Nutzer auf den Button, erzeugt Grok automatisch eine URL. Diese Links werden nicht nur für den beabsichtigten Empfänger sichtbar, sondern auch von Suchmaschinen indexiert.

Das Problem hat schwerwiegende Folgen. Viele Anwender haben Grok hochsensible Informationen anvertraut – von persönlichen Daten und Passwörtern bis zu vertraulichen Unternehmensunterlagen. „Ich war überrascht, dass Grok-Chats, die ich mit meinem Team geteilt hatte, automatisch bei Google auftauchten, ohne dass es Warnhinweise gab“, erklärte Nathan Lambert vom Allen Institute for AI, der den Chatbot für Textzusammenfassungen nutzte.

Brisant sind auch die Inhalte, die dadurch öffentlich zugänglich wurden. Unter den konversationsbasierten Ergebnissen fanden sich Anleitungen zur Herstellung von Drogen wie Fentanyl und Methamphetamin sowie Hinweise zu Malware, Bombenbau und Suizidmethoden. In einem Fall erstellte Grok sogar einen detaillierten Mordplan gegen Elon Musk. All dies verstößt klar gegen die eigenen Nutzungsrichtlinien von xAI.

Ein Blick auf die Konkurrenz zeigt, dass OpenAI nach einem ähnlichen Vorfall Anfang des Monats rasch reagierte und die Indexierung von ChatGPT-Inhalten stoppte. Musk hatte damals auf X noch betont, Grok verfüge über keine solche Teilungsfunktion.