London gegen Musks KI Grok: Behörde leitet Untersuchung ein

Es gebe "zutiefst beunruhigende Berichte", wonach die KI Grok dazu genutzt werde, sexualisierte Bilder - unter anderem von Kindern - zu erstellen und weiterzugeben, hiess es vonseiten der britischen Behörde. Dies könne mitunter als Missbrauch gewertet werden.

X war in den vergangenen Tagen auch innerhalb der Europäischen Union massiv in die Kritik geraten, weil Nutzer den KI-Chatbot auffordern können, gepostete Bilder zu sexualisieren, auch, wenn diese Kinder zeigen. Der britische Premierminister Keir Starmer nannte dies "widerlich". Mehrere Minister hatten in den vergangenen Tagen deutlich gemacht, dass sie auch ein Verbot der Plattform unterstützen würden, sollte Ofcom zu einem entsprechenden Schluss kommen.

Die Behörde hatte X zuletzt deshalb um dringende Stellungnahme gebeten. Das US-Unternehmen habe innerhalb einer von Ofcom gesetzten Frist geantwortet, so die Behörde. Die "verfügbaren Beweise" habe Ofcom daraufhin einer dringlichen Prüfung unterzogen. Mit der Untersuchung soll nun festgestellt werden, ob Musks Plattform gegen den britischen Online Safety Act verstösst.

Indonesien und Malaysia haben am Wochenende als erste Länder weltweit den Chatbot vorübergehend gesperrt. Die indonesische Kommunikations- und Digitalministerin Meutya Hafid erklärte, der Schritt diene dem Schutz von Frauen, Kindern und der breiten Öffentlichkeit vor der Verbreitung gefälschter pornografischer Inhalte, die mithilfe von KI generiert würden. Der digitale Raum dürfe nicht zu einem rechtsfreien Raum werden, betonte sie.

Geldstrafe bei Verstoss

Sollte die Behörde einen Verstoss feststellen, könnte X zur Kasse gebeten werden. Den Angaben zufolge kann Ofcom dann eine Geldstrafe in Höhe von bis zu 10 Prozent des weltweiten Umsatzes der US-Firma oder in Höhe von 18 Millionen Pfund (umgerechnet mehr als 20 Millionen Euro) verhängen - je nachdem, welcher Betrag höher ist. Im äussersten Fall könne die Behörde auch eine gerichtlich angeordnete teilweise oder komplette Sperrung der Plattform beantragen.

Bereits am Wochenende hatte Musk auf X gegen die britische Regierung ausgeteilt. Er warf London etwa Zensur vor und nannte die Regierung in einem Beitrag "faschistisch". Ähnliche Vorwürfe gegen Grossbritannien hatte Musk immer wieder erhoben.

Der Schritt der Plattform, den Zugriff auf die KI-Bildergenerierung nur noch zahlenden Nutzerinnen und Nutzern zugänglich zu machen, wurde sowohl von der Europäischen Kommission als auch der britischen Regierung zuletzt als nicht ausreichend betrachtet. Es sei "eine Beleidigung für die Opfer von Frauenfeindlichkeit und sexueller Gewalt", teilte die Downing Street mit.