Drohung mit Strafen
Die EU-Kommission macht Ernst im Fall des umstrittenen KI-Chatbots Grok. Berichten zufolge wird noch an diesem Montag ein förmliches Verfahren nach dem Digital Services Act eingeleitet. Ziel ist es, den Betreiber xAI unter Druck zu setzen, die Software für Nutzer in Europa zu sperren.
Die Vorwürfe gegen Grok sind gravierend: Der KI-Chatbot soll in der Lage sein, ohne Einwilligung Nacktbilder und sogenannte „Bikini-Videos“ von realen Personen zu generieren – darunter auch Minderjährige. Weltweit sorgte dies bereits für heftige Kritik.
Nutzer sollen in den vergangenen Monaten das System mit Fotos von Kindern konfrontiert und die KI angewiesen haben, diese zu sexualisieren. Grok soll diesen Aufforderungen nachgekommen und die KI-generierten, teils verstörenden Bilder verbreitet haben.
Ursprünglich war die EU-Kommission offenbar vorsichtiger. Ein bereits geplantes Vorgehen Anfang letzter Woche soll aus Angst vor einer Eskalation im Handelsstreit mit den USA und möglichen Reaktionen von US-Präsident Donald Trump, der mit neuen Zöllen gedroht hatte, verschoben worden sein. Diese Drohung hat Trump inzwischen zurückgenommen.
