Meta ha llegado a un acuerdo de conciliación con los fiscales generales de 29 estados que no solo le costará hasta 18 mil millones de dólares, sino que también incorporará medidas adicionales para la seguridad infantil. Un aspecto notable del acuerdo es una disposición que permite a Meta retener y usar datos de niños con el fin de desarrollar y probar un modelo de verificación de edad. Esta decisión, curiosamente tomada en el contexto de un caso centrado en la protección de los menores, significa que los estados se comprometen a no demandar a la empresa bajo las leyes de seguridad infantil existentes, contemplando así una excepción a las normativas ya establecidas como COPPA (Ley de Protección de la Privacidad Infantil en Línea). Se plantea la incógnita de hasta qué punto esto puede ser considerado seguro y efectivo en términos de cumplimiento de la ley.
El acuerdo establece que Meta tiene un plazo de un año para desarrollar un modelo que permita identificar a usuarios menores de 13 años en sus plataformas, usando tecnologías que probablemente incluirán inteligencia artificial. Aunque la normativa COPPA limita la recopilación de datos de niños, los fiscales han asegurado que Meta puede llevar a cabo sus entrenamientos de modelo sin infringir esta legislación. Sin embargo, si bien la intención de proteger la privacidad infantil es clara, la facilidad con la que Meta podría trascender las restricciones de almacenamiento de datos plantea serias preocupaciones sobre la efectividad de este compromiso. Además, la supervisión de un auditor independiente se incluye como parte del acuerdo para garantizar el cumplimiento, lo que añade un nivel de vigilancia sobre el manejo de la información.
La participación de un auditor externo en el monitoreo de Meta sugiere que, a pesar de la confianza implícita en la empresa, hay un reconocimiento de que las salvaguardias propuestas requieren una revisión continua. Sin embargo, surgen dudas sobre cómo asegurarse de que los datos de los niños se mantengan aislados de los demás sistemas de la compañía, dado que la complejidad de la infraestructura de datos de Meta podría complicar este aislamiento. La falta de claridad sobre qué datos se retendrán para el entrenamiento del modelo y cuál será su naturaleza específica plantea un dilema adicional para las autoridades, que podrían enfrentar dificultades para intervenir si se suscitara un mal uso de estos datos.
Los fiscales generales del estado han firmado un compromiso de “no demanda” que podría complicar futuras acciones legales en caso de que Meta se desvíe de los términos del acuerdo. Si bien el consenso legal es que esta exención no protege a Meta si se usan datos fuera del marco acordado, la ambigüedad en torno a cómo se interpretan estas excepciones puede generar disputas difíciles de resolver. Esta fragilidad en el acuerdo podría no solo desincentivar las acciones de cumplimiento necesarias, sino que también podría abrir la puerta a futuras controversias en torno al uso de información personal en el contexto de la inteligencia artificial.
Este acuerdo con Meta también despierta un debate más amplio en relación con la evolución de las tecnologías de inteligencia artificial, especialmente donde el acceso a datos personales se convierte en un requisito fundamental para el funcionamiento efectivo de estos sistemas. A medida que las herramientas de IA se vuelven más comunes, la necesidad de entender bien cómo los menores interactúan con las plataformas de redes sociales se torna crucial para el desarrollo de mecanismos de seguridad. Sin embargo, gestionar esta interacción sin poner en riesgo la privacidad de los niños presenta un desafío significativo que tanto Meta como los responsables de la legislación deberán abordar de manera urgente y eficaz.
