Meta anunció el jueves que comenzará a implementar sistemas de inteligencia artificial (IA) más avanzados para la gestión del contenido en sus plataformas, como parte de un esfuerzo para reducir su dependencia de proveedores externos en este ámbito. Esta decisión se enmarca dentro de la estrategia de la empresa para fortalecer la moderación del contenido, que abarca tareas críticas como la detección y eliminación de material relacionado con el terrorismo, la explotación infantil, el tráfico de drogas, el fraude y las estafas. Meta ha declarado que estos sistemas de IA se desplegarán una vez que demuestren una eficacia superior a los métodos actuales utilizados para la supervisión del contenido.
En un comunicado a través de su blog, Meta señaló que aunque se seguirá contando con el trabajo de personas para revisar contenido, la IA podrá asumir tareas que son más apropiadas para la tecnología. Esto incluye la revisión de contenido gráfico de forma repetitiva y la respuesta a situaciones donde los actores malintencionados modifican constantemente sus tácticas, como ocurre en la venta de drogas ilícitas y en diversas estafas. La empresa confía en que la tecnología no solo permitirá una identificación más precisa de violaciones de las normas, sino que también mejorará la capacidad para prevenir estafas y responder de manera más rápida a incidentes que ocurren en el mundo real.
Las pruebas iniciales con estos sistemas de IA han mostrado resultados alentadores, revelando que son capaces de detectar hasta el doble de contenido ofensivo relacionado con solicitudes sexuales en comparación con los equipos humanos, además de reducir la tasa de error en más de un 60%. Desde Meta también indican que estos sistemas pueden identificar y prevenir una cantidad significativa de cuentas falsas que involucren a celebridades y personajes públicos, así como proteger cuentas ante posibles fraudes, detectando señales como inicios de sesión desde ubicaciones no habituales o ediciones en los perfiles.
Meta estima que sus nuevos sistemas de IA pueden mitigar alrededor de 5,000 intentos de estafa diarios, donde estafadores buscan engañar a los usuarios para que compartan sus credenciales de acceso. Para garantizar un manejo adecuado de las decisiones más impactantes, la compañía ha afirmado que expertos continuarán diseñando, entrenando, supervisando y evaluando la eficacia de estos sistemas, considerando que la evaluación de apelaciones y reportes críticos seguirá en manos de humanos, asegurando así una supervisión más ética y responsable.
El anuncio de los nuevos sistemas de IA ocurre en un contexto donde Meta ha relajado ciertas normativas de moderación de contenido en el último año, coincidiendo con cambios en la administración pública estadounidense. Entre las reformas destacadas, la empresa descontinuó su programa de verificación de hechos de terceros y modificó sus políticas sobre contenido político, promoviendo un enfoque más personalizado. Además, en la misma jornada, Meta presentó un asistente Meta IA, que ofrecerá soporte a los usuarios las 24 horas, los 7 días de la semana, en Facebook e Instagram, en una respuesta a las crecientes críticas sobre la seguridad de los jóvenes en las redes sociales.
