Malaysia und Indonesien haben Grok wegen der Generierung von Kinderpornografie blockiert - ForkLog: Kryptowährungen, KI, Singularität, Zukunft

# Malaysia und Indonesien blockierten Grok wegen Kinderpornografie-Generierung

Malaysia und Indonesien haben den Zugriff auf den Chatbot Grok von Elon Musk aufgrund von Bedenken hinsichtlich der Nutzung des Tools zur Generierung sexueller Inhalte blockiert.

Am 11. Januar ordnete die malaysische Regulierungsbehörde an, vorübergehende Einschränkungen einzuführen, nachdem „wiederholte Misserfolge von X Corp“ bei der Beseitigung der Risiken im Zusammenhang mit dem KI-Dienst festgestellt wurden.

Einen Tag zuvor hatte Indonesien den Zugriff auf den Chatbot aufgrund ähnlicher Bedenken ausgesetzt und Vertreter des Unternehmens zu einer Diskussion eingeladen.

Die harte Reaktion der südostasiatischen Länder folgte auf Berichte, dass Grok Materialien mit Minderjährigen erstellen und pornografische Bilder generieren könne.

X erklärte, dass das Unternehmen das Problem behebt. Vorübergehend wurde die Funktion zur Bildgenerierung und -bearbeitung nur zahlenden Abonnenten zugänglich gemacht.

Musk’s Unternehmen hat kürzlich die Funktionen von Grok Imagine aktualisiert, um die Erstellung von Bildern mittels Prompts im Chatbot zu vereinfachen. Der Unternehmer drohte denjenigen, die die KI illegal nutzen, mit Verantwortung.

Anyone using Grok to make illegal content will suffer the same consequences as if they upload illegal content

— Elon Musk (@elonmusk) 3. Januar 2026

Diese Maßnahmen sind unzureichend

Die Regulierungsbehörden Malaysias und Indonesiens zeigten sich unzufrieden mit den ergriffenen Maßnahmen.

Die malaysische Kommunikations- und Multimedia-Kommission erklärte, dass die Maßnahmen „die Risiken im Zusammenhang mit Design und Funktion des KI-Tools nicht berücksichtigen“.

„Die Einschränkung wird als präventive und verhältnismäßige Maßnahme während der rechtlichen und regulatorischen Verfahren eingeführt. Der Zugriff auf Grok bleibt eingeschränkt, bis wirksame Schutzmaßnahmen vorhanden sind, insbesondere zur Verhinderung von Inhalten, die Frauen und Kinder betreffen“, erklärte die Regulierungsbehörde.

In Malaysia und Indonesien gelten strenge Gesetze gegen Pornografie, die die Verbreitung entsprechender Inhalte im Internet verbieten.

Indonesiens Minister für Kommunikation und digitale Technologien, Metyia Hafid, erklärte, dass die vom Staat ohne Zustimmung erstellten sexuellen Deepfakes als schwerwiegender Verstoß gegen Menschenrechte, Würde und Sicherheit der Bürger im digitalen Raum angesehen werden.

Sie klassifiziert die Nutzung von KI zur Erstellung gefälschter Pornografie als eine Form von „digitaler Gewalt“.

Massive Folgen

Regulierungsbehörden der EU, Großbritanniens, Brasiliens und Indiens fordern Untersuchungen zur Rolle von Grok bei der Verbreitung von Deepfakes.

Die britische Organisation Internet Watch Foundation berichtete, dass ihre Analysten „kriminelle Bilder“ von Kindern im Alter von 11 bis 13 Jahren entdeckt haben, die vermutlich mit Grok erstellt wurden.

In London wurden extreme Maßnahmen in Betracht gezogen: Die Technologieministerin Liz Kendall bestätigte, dass sie die Entscheidung zur Blockierung von X unterstützen würde, falls die Plattform die Sicherheitsstandards nicht einhält. US-Gesetzgeber forderten ebenfalls, dass Marktplätze die App entfernen, bis das Problem behoben ist.

Die Behörden verschiedener Länder prüfen in Eilmaßnahmen, wie KI reguliert werden soll, die zum „Entkleiden“ von Menschen auf Fotos verwendet wird.

Kein erster Skandal

Grok wurde bereits mehrfach für die Verbreitung von Falschinformationen und zweifelhafter Inhalte kritisiert.

Im Dezember lieferte der Chatbot falsche Informationen über eine Massenerschießung am Bondi Beach in Australien. Auf die Frage nach einem Video, in dem ein zufälliger Passant namens Ahmed Al-Ahmad gegen den Schützen kämpft, antwortete die KI:

„Es scheint sich um ein altes virales Video zu handeln, in dem ein Mann auf einen Baum auf einem Parkplatz klettert, möglicherweise um ihn zu schneiden. Dabei fiel ein Zweig auf ein beschädigtes Auto. Recherchen in verschiedenen Quellen ergaben keine bestätigten Angaben zu Ort, Datum oder Verletzungen. Es könnte eine Inszenierung sein, deren Echtheit nicht bestätigt ist.“

Im Juli bemerkten Nutzer, dass die KI bei der Beantwortung von Fragen die Meinung von Elon Musk berücksichtigt. Dies betraf auch Themen wie den Konflikt zwischen Israel und Palästina, Abtreibungen und Einwanderungsgesetze.

Die Beobachtungen lassen vermuten, dass der Chatbot bewusst so eingestellt wurde, dass er die politischen Ansichten Musks bei kontroversen Fragen berücksichtigt.

Der Milliardär hatte zuvor erklärt, dass sein Startup „alles menschliche Wissen“ neu schreiben werde, um eine neue Version von Grok zu trainieren, da heute „zu viel Müll in jeder Grundmodell-Trainingsdatenbank“ sei.

Später wurde Grokipedia vorgestellt – eine auf KI basierende Online-Enzyklopädie, die „auf Wahrheit ausgerichtet“ ist.

Erinnern wir uns: Im November hatten Nutzer auf die Voreingenommenheit von Grok 4.1 hingewiesen – das neue Modell überschätzte die Fähigkeiten von Elon Musk erheblich.