Elon Musk en el centro del escándalo de los deepfake de Grok. Crédito: Salim creativo – Shutterstock
El 10 de enero de 2026, Indonesia fue noticia al convertirse en el primer país del mundo en bloquear temporalmente el acceso al chatbot Grok AI, desarrollado por la empresa xAI de Elon Musk. La decisión, anunciada por el Ministro de Comunicaciones y Asuntos Digitales, Meutya Hafid, fue provocada por preocupaciones sobre la capacidad de la IA para generar imágenes de desnudos falsos, en particular deepfakes sexuales no consensuales que manipulan fotografías de personas reales (incluidos mujeres y niños) para que aparezcan desnudas o en escenarios explícitos. Pero, ¿se trata de las capacidades de la tecnología o de la persona detrás de la empresa, es decir, Elon Musk?
El ministro declaró: «Para proteger a las mujeres, los niños y el público de los riesgos del contenido pornográfico falso generado utilizando la tecnología de inteligencia artificial, el gobierno… ha bloqueado temporalmente el acceso a la aplicación Grok». Además, destacó que el gobierno considera “la práctica de deepfakes sexuales no consentidos como una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”. Indonesia, que tiene leyes estrictas contra el intercambio de contenido obsceno en línea, también convocó a funcionarios de X para discutir el tema.
Sentado un precedente: ¿Seguirán el mismo Reino Unido, Canadá y Australia?
La acción sigue a informes generalizados sobre el mal uso de las funciones de generación y edición de imágenes de Grok a finales de diciembre de 2025 y principios de enero de 2026. Los usuarios podían cargar o hacer referencia a fotografías y solicitar a la IA que «desnudara» a las personas, creara imágenes parcialmente desnudas o produjera contenido explícito, a veces a un ritmo de docenas de imágenes degradadas por minuto. Los ejemplos incluyeron la falsificación de imágenes de mujeres “sosteniendo a un bebé y bajándose la ropa para amamantar” o alterando fotografías grupales de mujeres vestidas afirmando que “son hombres” para justificar que se quitaran la ropa. También surgieron preocupaciones sobre la generación de imágenes de abuso sexual infantil, lo que provocó reacciones negativas de organizaciones como Internet Watch Foundation.
Ahora que Indonesia ha sentado este precedente con un bloqueo nacional temporal, países como el Reino Unido, Canadá y Australia pueden seguir su ejemplo. El Reino Unido ya está revisando posibles medidas en virtud de la Ley de Seguridad en Línea, y los funcionarios expresaron una enérgica condena de dicho contenido. El primer ministro australiano, Anthony Albanese, ha expresado su preocupación por el material explotador generado por IA, mientras que otras naciones como India y partes de Europa han emitido advertencias o iniciado revisiones.
Las capacidades de Grok están abiertas para usuarios de pago, mientras que Gemini y Chat-GPT están bloqueadas
La capacidad de producir estos “desnudos deepfake”, esencialmente imágenes manipuladas convincentes y de alta calidad a partir de fotografías de personas vestidas, no es exclusiva de Grok ni es una característica de diseño deliberada incorporada específicamente en su programación. Otros modelos importantes de IA, como Gemini de Google y ChatGPT de OpenAI (con herramientas de generación de imágenes como DALL·E), también son capaces de crear resultados similares cuando se les solicita inteligentemente, con más o menos los mismos niveles de calidad. La diferencia es que Gemini y ChatGPT están diseñados con fuertes barreras éticas que impiden el tipo de generación de imágenes deepfake realistas y sin restricciones que Grok ha sido criticado (y a veces elogiado) por permitir. Esta diferencia surge de la filosofía de xAI de censura mínima frente a las posturas más centradas en la seguridad de Google y OpenAI. La brecha ha convertido a Grok en una opción para los usuarios que buscan menos límites, aunque eso viene con una creciente controversia y escrutinio regulatorio en 2026. En respuesta a la protesta global, xAI restringió las capacidades de generación y edición de imágenes de Grok solo a suscriptores pagos (requiriendo detalles personales para una posible responsabilidad), aunque los críticos argumentaron que esto no abordaba completamente los riesgos. Elon Musk ha declarado anteriormente que cualquiera que use Grok para crear contenido ilegal enfrentaría las mismas consecuencias que si lo subiera directamente.
¿Hay más en esto que imágenes sexuales?
Entonces, ¿qué explica el intenso furor centrado en Grok y no en los demás? La clave podría estar en la retórica. Cada mención de la historia enfatiza repetidamente al “Grok de Elon Musk”, sin mencionar nunca al “Géminis de Sundar Pichai” o al “ChatGPT de Sam Altman”, a pesar de que los tres son los destacados directores ejecutivos de las empresas matrices detrás de estas IA. Esto plantea una pregunta: ¿Hay algo personal sobre Elon Musk en juego aquí?
Y para llevar la analogía aún más lejos: si un talentoso pintor hiperrealista usara pinturas al óleo y lienzos para crear una representación desnuda de una mujer conocida (sin su consentimiento), ¿ese artista enfrentaría el mismo escrutinio legal o prohibiciones bajo leyes similares? La línea entre las herramientas tecnológicas y la expresión artística parece borrosa, pero la atención sigue desproporcionadamente en una IA y una figura. Se dice que el primer ministro del Reino Unido, Keir Starmer, está considerando tomar medidas contra X para detener la capacidad que se utiliza en el Reino Unido y posibles multas, al igual que el primer ministro australiano, Anthony Albanese, y el canadiense, Mark Carney.
Los debates sobre la seguridad de la IA, la libertad de expresión, la aplicación selectiva de la ley y la rapidez con la que actúan los gobiernos cuando surgen controversias de alto perfil, especialmente aquellas vinculadas a personalidades polarizadoras. La naturaleza temporal del bloqueo de Indonesia deja margen para una resolución, pero marca un primer paso significativo en las respuestas regulatorias globales al potencial de la IA generativa.