Meta está implementando cambios significativos en la forma en que entrena a sus chatbots de inteligencia artificial, con un enfoque renovado en la seguridad de los adolescentes. Stephanie Otway, portavoz de la compañía, compartió en exclusiva con TechCrunch que la decisión se produce tras un informe de investigación que expuso la falta de salvaguardias adecuadas para los menores. A partir de ahora, Meta limitará las interacciones de sus chatbots con adolescentes en temas delicados como el autocastigo, el suicidio y los trastornos alimentarios, así como en conversaciones románticas inapropiadas. La compañía ha reconocido que su enfoque anterior era un error, y se encuentra en un proceso de aprendizaje continuo sobre cómo los jóvenes interactúan con estas herramientas.
Otway enfatizó que los cambios son temporales y que se están desarrollando actualizaciones de seguridad más robustas para proteger a los usuarios adolescentes. La portavoz también destacó que, junto con la restricción de ciertos temas, se limitará el acceso a personajes de IA que podrían fomentar conversaciones inapropiadas. Meta ha identificado que algunos de estos personajes, disponibles en plataformas como Instagram y Facebook, eran potencialmente problemáticos y, en consecuencia, solo permitirá acceso a aquellos que fomenten la educación y la creatividad entre los jóvenes.
El anuncio de estos cambios se produce en medio de un escrutinio creciente sobre las políticas de IA de Meta. Un reciente informe de Reuters sacó a la luz un documento interno que parece haber permitido a los chatbots de la empresa participar en conversaciones sexualizadas con menores. Frases como ‘Tu forma juvenil es una obra de arte’ fueron expuestas como parte de respuestas aceptables para los chatbots. A raíz de la controversia, el senador Josh Hawley ha iniciado una investigación formal sobre las prácticas de Meta, mientras que una coalición de 44 fiscales generales ha instado a la empresa a priorizar la seguridad infantil.
La comunidad ha expresado su preocupación por la forma en que Meta ha manejado las interacciones de sus chatbots con los adolescentes, y muchos padres y defensores de la infancia han pedido mayores protecciones. La carta enviada por los fiscales generales critica el aparente descuido de Meta por el bienestar emocional de los jóvenes, citando específicamente la participación de los chatbots en conductas que pueden estar en violación de las leyes. A medida que la presión pública aumenta, parece que la empresa se ve obligada a reevaluar su enfoque sobre cómo los chatbots deben atender a un público más joven.
A pesar de estos cambios, Otway evitó comentar sobre cuántos de sus usuarios de chatbots son menores o si se anticipa una disminución en su base de usuarios debido a estas restricciones. Lo que está claro es que la conversación sobre la seguridad en el uso de la IA por parte de los adolescentes está en el centro de atención, y Meta ha dejado claro que está tomando medidas para asegurar un entorno más seguro. Mientras se acercan nuevas actualizaciones en su política de seguridad, la compañía continúa enfrentando desafíos significativos respecto a la integración de la inteligencia artificial de forma responsable.
