Instagram ha anunciado importantes cambios en la forma en que se etiquetan los perfiles generados por inteligencia artificial (IA). La plataforma, en un intento por aumentar la transparencia y la confianza de los usuarios, cambiará su etiqueta existente de “creador de IA” a “perfil generado por IA”. Según los representantes de Instagram, esta nueva nomenclatura facilitará a los usuarios la identificación de aquellos perfiles en los que las imágenes o identidades han sido sustancialmente creadas o manipuladas con la ayuda de la IA. La medida responde a la creciente inquietud entre los usuarios que se han sentido engañados al interactuar con cuentas que aparentan pertenecer a personas reales, solo para descubrir más tarde que eran falsas.
Esta política también establecerá nuevas repercusiones para quienes no sigan las directrices de etiquetado. Los creadores que no indiquen que su perfil es generado por IA podrían ver una reducción notable en su alcance, es decir, el número de personas que pueden ver sus publicaciones. Por el contrario, aquellos que utilicen correctamente la nueva etiqueta no sufrirán sanciones simplemente por tener contenido generado por IA. Este cambio durante un contexto en el que la creación digital a través de inteligencia artificial se ha vuelto más habitual, busca equilibrar el uso creativo de estas herramientas sin sacrificar la honestidad hacia los usuarios sobre la naturaleza del contenido que consumen.
Instagram también ha aclarado que la nueva etiqueta no se aplicará a todos los usos de la inteligencia artificial. Los usuarios que utilizan IA para editar fotos, mejorar subtítulos o realizar otros ajustes creativos no estarán obligados a etiquetar su contenido de esta manera. Esto indica que la plataforma busca enfocarse en la cuestión específica de las cuentas que crean la ilusión de ser personas reales, a fin de frenar la desinformación que puede surgir de tales representaciones. Este paso ha sido considerado esencial por muchos usuarios que demandaban mayor claridad sobre la autenticidad de las cuentas que siguen.
La preocupación por la eficacia de las cuentas de IA ha aumentado en otras plataformas, como se evidenció con la app de citas gay Goose, que se vio envuelta en una controversia tras la creación de perfiles de influenciadores masculinos generados por IA que promocionaban sus servicios. Estas cuentas no solo confundieron a los usuarios, sino que también sembraron dudas sobre la autenticidad de las interacciones en línea. Además, se han reportado numerosos perfiles de profesionales de la salud generados por IA que ofrecen consejos y medicamentos, lo que ha suscitado un debate sobre la responsabilidad de las plataformas en la difusión de información veraz y segura.
Finalmente, este anuncio de Instagram llega en un momento en que la compañía ya enfrenta críticas por el uso de herramientas de IA que generan imágenes basadas en las semejanzas de individuos sin su consentimiento. La presión pública ha llevado a Meta, la empresa matriz de Instagram, a eliminar dicha función y también a alcanzar un acuerdo de 18 mil millones de dólares con varios estados de EE. UU. en relación a las acusaciones sobre los efectos negativos de sus plataformas en adolescentes. Las nuevas restricciones, que incluyen límites de tiempo en el uso para menores, revelan la intensión de Meta por recalibrar su enfoque hacia la seguridad y el bienestar de sus usuarios.
