KI eskaliert – und Europa greift hart durch
Sexualisierte Bilder, Missbrauchsgefahr, Hassinhalte – das, was als digitaler Fortschritt begann, wird für Elon Musks Plattform X (ehemals Twitter) zur politischen Zeitbombe.
Die EU-Kommission hat ein offizielles Verfahren gegen X eingeleitet, nachdem dessen KI-Chatbot „Grok“ wiederholt für die Generierung sexualisierter und potenziell strafbarer Bilder genutzt wurde. Der Vorwurf: fehlende Risikokontrolle und unzureichender Schutz der Nutzerinnen.
Was konkret vorgeworfen wird
Die Vorwürfe wiegen schwer: Nutzende konnten den KI-Chatbot offenbar dazu bringen, Bilder realer Menschen zu verändern – z. B. durch das digitale „Entkleiden“ von Frauen oder durch Bikini-Montagen bei geposteten Fotos.
Besonders brisant: Grok erstellte auch sexualisierte Bilder von Minderjährigen. An Silvester entschuldigte sich das System öffentlich dafür, zwei Mädchen in „sexualisierten Outfits“ dargestellt zu haben.
Ebenfalls in der Kritik: frühere Antworten, in denen Grok Adolf Hitler lobte – was bereits im Sommer 2025 Empörung auslöste.
Brüssel gegen Musk – ein offener Machtkampf
Die EU-Kommission unter Ursula von der Leyen sieht in der Eskalation rund um Grok einen Wendepunkt. „In Europa werden wir das digitale Entkleiden von Frauen und Kindern nicht tolerieren“, sagte die Kommissionspräsidentin.
Ein Sprecher der Kommission erklärte, Ziel sei es nicht, Grok sofort zu sperren – wohl aber, das Unternehmen zu Kontrollmassnahmen zu zwingen.
Die rechtliche Grundlage bildet der Digital Services Act (DSA). X wird vorgeworfen, das Risiko für „geschlechtsspezifische Gewalt“ nicht ausreichend begrenzt zu haben.
🚨 Breaking News direkt aufs Smartphone
Verpasse keine Eilmeldung mehr – jetzt den imTicker WhatsApp-Kanal abonnieren:
👉 imTicker auf WhatsApp abonnieren
Internationale Wellen – USA, UK, Frankreich reagieren
Auch Ofcom in Grossbritannien eröffnete eine Untersuchung. Die britische Regierung nennt die von Grok erzeugten Bilder „widerlich“.
In Frankreich ermittelt die Staatsanwaltschaft bereits seit 2025 – ursprünglich wegen algorithmischer Manipulation zugunsten rechtsextremer Inhalte. Jetzt werden auch Holocaustleugnung und sexuelle Darstellungen untersucht.
Washington reagiert gereizt
Als die EU X zuletzt zu einer Strafe von 120 Mio. Euro verdonnerte, reagierte die US-Regierung mit Einreiseverboten gegen Digitalgesetzgeber aus Brüssel.
US-Aussenminister Marco Rubio warf der EU „gezielte Angriffe gegen amerikanische Plattformen“ vor und drohte mit einer Ausweitung der Massnahmen.
Elon Musk selbst forderte die Auflösung der EU.
X reagiert – aber reicht das?
Nach wachsendem Druck schränkte X die Nutzung von Grok ein. Die Bildbearbeitungsfunktion ist nur noch zahlenden Nutzern zugänglich – und diese dürfen keine Bikini-Bilder oder ähnliche Inhalte mehr generieren.
X spricht von „technologischen Schranken“, die Bildveränderungen mit leicht bekleideten Personen unterbinden sollen – für alle Nutzergruppen.
Doch der EU reicht das nicht: Das Verfahren läuft weiter.
