El gobierno de India ha emitido una orden a la plataforma X, propiedad de Elon Musk, para que realice cambios técnicos y procedimentales inmediatos en su chatbot de inteligencia artificial, Grok. Esta decisión surge tras las denuncias de usuarios y legisladores que cuestionan la generación de contenido “obsceno” a través de la herramienta, incluyendo la creación de imágenes de mujeres alteradas por inteligencia artificial que las mostraban en trajes de baño. El ministerio de Tecnologías de la Información (TI) de India exigió que X limite la producción de contenido relacionado con “nudidad, sexualización o materiales sexualmente explícitos”, dando un plazo de 72 horas para presentar un informe sobre las acciones tomadas.
La orden emitida por el ministerio de TI también subraya que el incumplimiento de estas directrices podría poner en riesgo las protecciones de “puerto seguro” bajo la ley india, afectando la inmunidad legal que tiene X frente al contenido generado por sus usuarios. Este movimiento de las autoridades indias se produce en un contexto donde ha aumentado la presión sobre las plataformas de redes sociales para que regulen el contenido inapropiado, especialmente aquel que pueda ser considerado obsceno o ilegal. La política del gobierno podría establecer un precedente importante en un país donde el uso de plataformas digitales está en constante crecimiento, desafiando a las empresas a cumplir con las normativas locales.
La polémica se ha intensificado luego de que la parlamentaria Priyanka Chaturvedi presentara una queja formal en respuesta a casos específicos de abuso de la tecnología, donde Grok había sido utilizado para crear imágenes sexualizadas de mujeres. Pese a que las imágenes generadas con este chatbot fueron retiradas tras ser identificadas como inapropiadas, algunas versiones permanecían accesibles en la plataforma al momento de la orden. Esto refleja la necesidad urgente de mejorar las salvaguardas dentro de la tecnología de IA y la responsabilidad de las plataformas en la moderación de contenido.
La situación en India también destaca un desafío más amplio para las empresas tecnológicas globales que operan en múltiples jurisdicciones. El endurecimiento de la regulación en un mercado tan grande como el indio podría tener repercusiones significativas en sus operaciones en otras regiones. La falta de cumplimiento con las regulaciones locales puede llevar a medidas severas no solo contra las plataformas, sino también contra sus ejecutivos y usuarios involucrados en la publicación de contenido prohibido. Este contexto exige un enfoque más comprometido por parte de las compañías de tecnología para garantizar que se mantienen en conformidad con las normativas locales, evitando así consecuencias legales potenciales.
Por último, se enfatiza que el gobierno indio subrayó que cualquier incumplimiento de sus requisitos será tratado con seriedad, lo que podría resultar en estrictas consecuencias legales. Esta serie de acontecimientos ocurre en un momento en el que X está cuestionando algunas de las regulaciones de contenido en los tribunales, lo que refleja una tensión entre la plataforma y el gobierno indio. A medida que los usuarios continúan utilizando Grok para fines diversos, como la verificación de hechos en tiempo real, la presión aumenta sobre X para que responda adecuadamente a las críticas y lidere el camino hacia una mayor responsabilidad en la generación de contenido mediante inteligencia artificial.
