Indonesia ha decidido levantar la prohibición sobre el chatbot Grok de xAI, siguiendo los pasos de Malasia y Filipinas, donde también se habían impuesto restricciones similares. La prohibición original se implementó luego de informes alarmantes que indicaban el uso de Grok para generar una gran cantidad de imágenes sexualizadas y no consensuadas en X, lo que incluía fotografías de mujeres reales y menores de edad. Según investigaciones del New York Times y el Centro para Combatir el Odio Digital, se estimó que Grok creó al menos 1.8 millones de imágenes sexualizadas entre diciembre y enero, lo que generó una fuerte reacción en la opinión pública y en las autoridades reguladoras de la región.
El Ministerio de Comunicación y Asuntos Digitales de Indonesia anunció que levantará la prohibición de Grok, pero de manera condicional. Alexander Sabar, director general del monitoreo del espacio digital del ministerio, enfatizó que el levantamiento de la prohibición dependerá del cumplimiento de las promesas hechas por X para mejorar el servicio y evitar el uso indebido. Esta decisión refleja una postura de vigilancia continua, advirtiendo que la prohibición podría reinstaurarse si suceden más violaciones. De manera similar, Malasia y Filipinas también revocaron sus prohibiciones el 23 de enero, lo que sugiere un movimiento coordinado en la región en respuesta a la situación de Grok.
Grok ha sido objeto de críticas extensivas y múltiples investigaciones debido a su capacidad para generar deepfakes y contenido inapropiado. A nivel mundial, las respuestas de los gobiernos han variado desde la implementación de prohibiciones absolutas hasta la solicitud de investigaciones formales. En Estados Unidos, el Fiscal General de California, Rob Bonta, ha anunciado una investigación contra xAI y ha emitido una carta de cese y desista exigiendo acciones inmediatas para detener la producción de imágenes ofensivas. Los desarrollos actuales sugieren que la regulación de la inteligencia artificial y la protección de los derechos de las personas son temas candentes en la agenda pública.
En respuesta a las crecientes preocupaciones sobre el contenido creado por Grok, xAI ha comenzado a implementar ciertas restricciones en su funcionalidad. La compañía ha limitado la generación de imágenes mediante inteligencia artificial exclusivamente a suscriptores de pago en X, lo que indica un intento de controlar el uso de su tecnología de manera más eficaz. Sin embargo, el CEO Elon Musk ha declarado que aquellos que usen Grok para crear contenido ilegal enfrentarán consecuencias legales, y ha insistido en que no está al tanto de imágenes inapropiadas de menores generadas a través de la plataforma. Esta situación plantea preguntas sobre la responsabilidad de las empresas tecnológicas en la supervisión de sus productos.
Mientras tanto, el escándalo en torno a Jeffrey Epstein ha vuelto a resurgir a la luz de documentos del Departamento de Justicia que revelan correos electrónicos entre Elon Musk y Epstein en 2012 y 2013. Estos correos sugieren un interés de Musk en visitar la isla privada de Epstein y participar en actividades que han sido clasificadas como inapropiadas. xAI se encuentra en medio de una posible fusión con otras compañías de Musk, como SpaceX y Tesla, lo que añade otra capa de complejidad a la ya complicada situación. Estas interacciones y su relación con el uso de tecnologías controvertidas como Grok reflejan las amplias implicaciones éticas y legales del avance de la inteligencia artificial en nuestra sociedad.
