Eigentlich sollte es eine Erfolgsgeschichte für Grok werden. Elon Musk beauftragte seinen KI-Assistenten damit, die unterhaltsamsten LEGO-Star-Wars-Sets für Kinder zu finden und gleich zu bestellen. Gesagt, getan: Fünf Sets für insgesamt 241,34 Dollar landeten im Warenkorb und wurden bestellt. Grok bot sogar an, die Lieferung zu verfolgen.

Musk war begeistert. Also veröffentlichte er kurzerhand einen Screenshot der Bestellbestätigung auf X. Dumm nur, dass darauf nicht nur die LEGO-Sets zu sehen waren, sondern auch Liefer- und Rechnungsadressen, Bestellnummer, E-Mail-Adresse und die letzten vier Ziffern der verwendeten Kreditkarte.

Das Internet ließ nicht lange auf sich warten. Ein Nutzer namens Enderman nahm die öffentlich gemachten Bestelldaten und wandte sich damit an Sophia, den KI-Chatbot des LEGO-Kundenservice. Anschließend behauptete er, Musks Bestellung erfolgreich storniert zu haben. Musk widersprach: Die Bestellung sei weiterhin aktiv. Außerdem handele es sich bei der veröffentlichten Lieferadresse nicht um seinen Wohnsitz, sondern um eine Adresse seines Sicherheitsteams.

Ob die Stornierung tatsächlich gelang, bleibt offen. Immerhin zeigte der Vorfall, wie schnell öffentlich gewordene Bestelldaten für fremde Anfragen beim Kundenservice genutzt werden können.

Die Pointe: Grok hatte seinen Job offenbar ordentlich erledigt. Den größten Fehler machte der Mensch vor dem Bildschirm.

Möge die Macht mit dem Datenschutz sein.