Lo más relevante:
- La utilización inapropiada de la inteligencia artificial Grok ha provocado un amplio rechazo, debido a su capacidad para generar imágenes deepfake de realismo convincente, frecuentemente con representaciones sexualizadas o inapropiadas de individuos y sin su consentimiento.
- Elon Musk ha abordado directamente esta controversia, advirtiendo a los usuarios que la creación de contenido ilegal mediante Grok acarreará consecuencias legales y dentro de la plataforma, similares a las que enfrentaría quien distribuya material expresamente prohibido.
Uso controversial de Grok y graves riesgos de seguridad y ética
La herramienta de inteligencia artificial Grok ha demostrado una capacidad técnica para generar imágenes deepfake de alto realismo en cuestión de segundos, permitiendo su difusión inmediata en hilos de la plataforma sin mecanismos de consentimiento previo.
Los usuarios han identificado vulnerabilidades en el chatbot que permiten alterar la fisionomía de personas en fotografías mediante comandos específicos de sexualización. Instrucciones explícitas para modificar la vestimenta o remover prendas han sido documentadas y compartidas de forma pública. Subrayando un vacío en los protocolos de moderación de contenido sintético.
El despliegue y uso indebido de esta tecnología ha desencadenado una ola de críticas dentro de la infraestructura de X (anteriormente Twitter). Randi Hipper, especialista en educación de activos digitales, reportó un incidente donde una imagen suya en atuendo deportivo fue procesada por el chatbot para mostrarla en bikini tras la orden de un tercero. Hipper calificó la experiencia como una intrusión inapropiada. Poniendo de relieve las implicaciones humanas y el daño a la reputación digital que el contenido generado por IA sin supervisión puede infligir en los individuos.
Some people are saying Grok is creating inappropriate images.
But that’s like blaming a pen for writing something bad.
A pen doesn’t decide what gets written. The person holding it does.
Grok works the same way. What you get depends a lot on what you put in.
Think about it!
— DogeDesigner (@cb_doge) January 3, 2026
En un esfuerzo por auditar el alcance de los algoritmos de Grok, la periodista Samantha Smith llevó a cabo una prueba de seguridad utilizando material de archivo personal. Tras cargar una fotografía de su infancia y emitir un comando para alterar la vestimenta hacia una prenda inapropiada, el sistema procesó la solicitud sin restricciones.
Smith, quien posee una trayectoria como defensora de sobrevivientes de abuso, describió el resultado como una representación inquietantemente realista. Calificando la eficiencia de la herramienta como un desarrollo profundamente perturbador para la integridad de los menores y la privacidad digital.
Explotación de Grok: Entre la industria del entretenimiento adulto y la desinformación política
Diversos segmentos de usuarios continúan instrumentalizando las capacidades de Grok para la producción de material orientado a adultos y la difusión de propaganda política. Diversificando las tácticas de interacción con el chatbot. Esta tendencia refleja una brecha en la gobernanza de la IA generativa. Donde la herramienta se utiliza para desafiar los límites de la propiedad intelectual y la integridad de la imagen pública.
En el sector del entretenimiento para adultos, una red de creadores de contenido, que incluye a modelos de OnlyFans y figuras de la industria erótica, ha integrado a Grok en sus estrategias de crecimiento digital.
We take action against illegal content on X, including Child Sexual Abuse Material (CSAM), by removing it, permanently suspending accounts, and working with local governments and law enforcement as necessary.
Anyone using or prompting Grok to make illegal content will suffer the… https://t.co/93kiIBTCYO
— Safety (@Safety) January 4, 2026
Al incentivar a sus seguidores a generar representaciones visuales mediante comandos de remoción de vestimenta, han logrado capitalizar el algoritmo para generar millones de impresiones y maximizar el engagement en la red social. Este fenómeno subraya cómo la IA de X está siendo utilizada como un motor de tráfico masivo a través de contenido altamente controversial.
Grok, un instrumento de manipulación:
En el ámbito de la comunicación política, el chatbot se ha convertido en un instrumento para la manipulación de la percepción pública mediante la alteración de imágenes de figuras de alto perfil. Un caso documentado involucró la edición de una fotografía del expresidente Donald Trump junto a Sean “Puff Daddy” Combs. En este incidente, un usuario instruyó a Grok para eliminar a uno de los sujetos bajo etiquetas peyorativas. Este tipo de usos resalta los riesgos de los deepfakes políticos en la configuración de la opinión pública y la veracidad informativa.
Ante la escalada en las preocupaciones globales sobre el uso de la inteligencia artificial para la creación de contenido ilícito o de explotación, Elon Musk se pronunció a través de una declaración en X. El propietario de la plataforma advirtió que cualquier individuo que utilice a Grok para la generación de material fuera del marco legal enfrentará repercusiones judiciales. Las cuales son equivalentes a las de aquellos que distribuyen contenido ilegal de manera convencional. Intentando establecer una postura de responsabilidad legal sobre el uso de la tecnología sintética.
Escrutinio regulatorio e investigaciones gubernamentales sobre Grok
Los reguladores globales han intensificado la supervisión sobre el despliegue de Grok. Han iniciando una fase de examen exhaustivo ante los riesgos de seguridad que plantea la herramienta. Thomas Regnier, portavoz de la Comisión Europea, confirmó en una comparecencia ante la prensa que el Ejecutivo comunitario aborda esta problemática con la máxima prioridad.
Regnier subrayó que las funciones de Grok permiten la creación de material sexualmente explícito, incluyendo representaciones con rasgos infantiles. Recalcando que la producción y distribución de dicho contenido constituye una violación directa de la legislación europea y carece de legitimidad dentro del mercado único.
En el sudeste asiático, la Comisión de Comunicaciones y Multimedia de Malasia (MCMC) emitió un comunicado oficial este 3 de enero, manifestando una preocupación crítica ante el volumen de denuncias públicas. Relacionadas con la manipulación de imágenes mediante inteligencia artificial en la plataforma de Elon Musk.
La autoridad regulatoria anunció la apertura de investigaciones contra usuarios de X sospechosos de infringir la Ley de Comunicaciones y Multimedia (CMA). Marcando un precedente en la fiscalización de los abusos tecnológicos en la región.
Por su parte, las autoridades en Francia han confirmado que lanzarán investigaciones judiciales centradas en el rol de Grok. Sobre todo en la proliferación de material visual sintético de carácter adulto. La decisión responde a una serie de informes presentados por mujeres y adolescentes cuyas imágenes han sido alteradas digitalmente sin consentimiento.
Este movimiento por parte del gobierno francés busca frenar la circulación de contenidos fraudulentos en línea. Además de reforzar la protección de la integridad digital frente al avance descontrolado de la IA generativa.
