L'Indonésie et la Malaisie bloquent temporairement Grok en raison de l'utilisation abusive de deepfakes

Les autorités en Indonésie et en Malaisie ont pris des mesures pour restreindre l'accès à Grok, un chatbot IA développé par xAI, suite à des incidents impliquant la création d'images deepfake sexualisées non consensuelles, y compris celles impliquant des mineurs.

Le gouvernement indonésien a temporairement bloqué Grok le 10 janvier 2026, invoquant des préoccupations concernant la génération d'images deepfake sexualisées. La décision a été annoncée par le ministère des Communications et du Numérique d'Indonésie, qui a mentionné l'implication de mineurs dans certains contenus comme un facteur clé de la restriction.

La Commission des Communications et des Multimédias de Malaisie a suivi avec une restriction temporaire sur Grok deux jours plus tard, le 12 janvier 2026. La commission a déclaré que la plateforme avait été abusivement utilisée pour produire des images manipulées obscènes et sexuellement explicites, mentionnant spécifiquement des cas impliquant des femmes et des mineurs.

Le régulateur malaisien a déclaré que les réponses de Grok aux avis officiels reposaient principalement sur des systèmes de signalement par les utilisateurs et n'incluaient pas de mesures de protection efficaces. Cette lacune procédurale a poussé la commission à mettre en œuvre une restriction préventive sur les services du chatbot dans le pays.

Ce que montrent les chiffres

• L'Indonésie a bloqué Grok le 10 janvier 2026
• La Malaisie a restreint l'accès à Grok le 12 janvier 2026
• Grok a été lancé en 2023 et a ensuite ajouté des fonctionnalités de génération d'images

Grok, créé par xAI, a été introduit en 2023 et a ensuite été élargi avec une fonctionnalité de générateur d'images connue sous le nom de “Grok Imagine.” Cette fonctionnalité incluait une option orientée vers les adultes appelée “mode épicé.”.

En réponse aux préoccupations mondiales concernant l'utilisation abusive d'images générées par IA, les capacités de génération et d'édition d'images de Grok ont récemment été limitées aux abonnés payants. Ce changement a été effectué alors que des rapports de deepfakes sexualisés circulaient à l'international.

À la fois l'Indonésie et la Malaisie sont parmi les premiers pays à imposer des restrictions temporaires sur Grok en raison de problèmes liés à des contenus non consensuels et explicites. Leurs actions reflètent des étapes procédurales prises par les régulateurs nationaux en réponse à l'utilisation abusive de l'IA impliquant des images manipulées.

La Commission des Communications et des Multimédias de Malaisie a déclaré que la dépendance de Grok aux mécanismes de signalement par les utilisateurs était insuffisante pour prévenir la propagation de contenus inappropriés. La commission a indiqué que le manque de mesures de protection supplémentaires était un facteur décisif dans sa décision de restreindre l'accès à la plateforme.

* Cet article est basé sur des informations publiquement disponibles au moment de la rédaction.