La polémica en torno a la empresa de inteligencia artificial de Elon Musk, conocida como xAI, ha tomado un nuevo rumbo tras la restricción de su función de generación de imágenes por parte de su herramienta Grok. A partir de ahora, solo los suscriptores de pago en la plataforma X podrán acceder a la generación y edición de imágenes. Esta medida llega después de un torrente de críticas globales provocadas por el uso indebido que se hacía de la herramienta, principalmente para producir imágenes sexualizadas y desnudas de mujeres y menores de edad. Estos hechos han suscitado reacciones en cadena por parte de gobiernos de distintas naciones.
La controversia se intensificó luego de que la función de generación de imágenes fuera inicialmente accesible para todos los usuarios, incluyendo la capacidad de subir fotos ajenas para crear versiones sexualizadas o desnudas. Esta característica fue aprovechada de manera alarmante, lo que llevó a una serie de producciones de contenido explícito no consensuado que involucró a niños, actores y figuras públicas. Este uso indebido ha desencadenado la ira y preocupación de países como el Reino Unido, la Unión Europea y la India, quienes han denunciado a la compañía por no regular adecuadamente su herramienta.
Consciente de la gravedad de la situación, tanto Elon Musk como su empresa han hecho pública su desaprobación hacia el uso de Grok para la creación de contenido ilegal. En respuesta a las críticas y las acciones de varios gobiernos, Musk afirmó en una reciente publicación en Twitter que aquellos que utilicen la herramienta para fines ilícitos enfrentarán las mismas sanciones que si estuvieran subiendo directamente contenido ilegal a la plataforma. Esto refleja un intento de la compañía por distanciarse del uso malicioso de su tecnología.
Sin embargo, es importante destacar que estas restricciones no se aplican a la aplicación independiente Grok, que en el momento de la publicación seguía permitiendo a cualquier usuario generar imágenes sin necesidad de ser suscriptor. Esta disparidad ha causado preocupación, ya que permite que la función de generación de imágenes continúe siendo accesible en un entorno menos controlado, lo que podría incrementar los riesgos de explotación y abuso.
La reacción de las autoridades europeas y asiáticas ha sido contundente. La Unión Europea ha solicitado a xAI que detenga cualquier uso de Grok que contradiga sus políticas de contenido y ha requerido la retención de toda la documentación relacionada con el chatbot. Por su parte, el ministerio de comunicaciones de India ha ordenado a X tomar medidas inmediatas para prevenir el abuso de la herramienta, advirtiendo que de no hacerlo, arriesgaría perder sus protecciones legales dentro del país. El regulador de comunicaciones del Reino Unido también ha estado en contacto con la empresa, presionando para que se implementen cambios necesarios.
