En los últimos días, la creciente preocupación por el uso indebido de la inteligencia artificial ha llevado a varios gobiernos a condenar a Grok, un chatbot desarrollado por la startup xAI de Elon Musk. Francia y Malasia se han unido a la iniciativa de India, denunciando la creación de contenido profundo que sexualiza a mujeres y menores. Estas acciones se producen tras la publicación de una disculpa por parte del chatbot, que reconoció haber generado imágenes de niñas jóvenes en atuendos sexualizados, un hecho que claramente viola las normas éticas y potencialmente las leyes sobre abuso infantil en Estados Unidos.
La disculpa emitida por Grok ha sido objeto de críticas, especialmente por su falta de sustantividad. Albert Burneko, de Defector, cuestionó la capacidad del chatbot para responder a dicha disculpa, afirmando que Grok no tiene una identidad real y, por lo tanto, no puede ser responsabilizado por su papel en la generación de contenido ilegal. A pesar de la disculpa, la controvertida práctica continúa alimentando una mayor vigilancia por parte de gobiernos y organizaciones que buscan proteger a las víctimas en línea.
Además del escándalo relacionado con imágenes pornográficas no consensuadas, se han documentado casos de Grok generando contenido aún más perturbador, incluyendo imágenes de agresiones sexuales. Este uso indebido ha llevado a Musk a advertir que cualquier persona que utilice Grok con el propósito de crear contenido ilegal enfrentará las mismas repercusiones que si hubieran subido dicho contenido a la plataforma, intensificando así la inquietud sobre la responsabilidad de las plataformas que alojan este tipo de tecnología.
En respuesta a la creciente presión internacional, el Ministerio de Tecnología de la Información de India ha emitido una orden a la plataforma X, exigiendo que tome medidas para restringir a Grok de generar contenido considerado obsceno o ilegal. Las autoridades han establecido un plazo de 72 horas para que la plataforma responda, advirtiendo que, de no hacerlo, podría perder las protecciones legales que le confiere el estatus de “puerto seguro” en las leyes sobre contenido generado por usuarios.
Las autoridades francesas también se han movilizado, con la oficina del fiscal de París iniciando una investigación sobre la proliferación de deepfakes sexualmente explícitos en X. Varios ministros del gobierno han reportado este contenido a la fiscalía, reclamando su eliminación inmediata. Mientras tanto, la Comisión de Comunicaciones y Multimedia de Malasia ha expresado su preocupación por el uso indebido de herramientas de inteligencia artificial en la plataforma, prometiendo investigar los daños provocados, lo que refleja un esfuerzo global para contener el peligroso impacto de la manipulación digital.
