Roblox ha anunciado el lanzamiento de una innovadora función de reexpresión de chat en tiempo real impulsada por inteligencia artificial. Esta nueva herramienta tiene como objetivo mejorar la experiencia de los usuarios al reemplazar automáticamente palabras y frases prohibidas por un lenguaje más respetuoso. El anuncio se hizo el jueves y marca un cambio significativo en la forma en que la plataforma maneja el contenido inapropiado en sus conversaciones, y va más allá del sistema de filtrado tradicional que únicamente utilizaba el símbolo “#” para ocultar las palabras prohibidas.
Con la implementación de esta nueva función, los usuarios ya no estarán expuestos a cadenas de “####” que pueden interrumpir las interacciones y dificultar la comunicación. En lugar de esto, el sistema reformulará el texto inapropiado preservando la intención original del mensaje. Por ejemplo, un mensaje que anteriormente habría aparecido como “####”, ahora podrá ser visto como “¡Apúrate!”. Este enfoque tiene el objetivo de mantener las conversaciones fluidas y contribuir a un ambiente más civilizado dentro de la comunidad de Roblox.
Rajiv Bhatia, vicepresidente de Producto de Usuario y Descubrimiento en Roblox, destacó la importancia del chat en la interacción de los usuarios, afirmando que “la reexpresión en tiempo real ayuda a mantener el juego y las conversaciones en el buen camino”. Esto refuerza el compromiso de Roblox con la creación de un entorno seguro y respetuoso, al mismo tiempo que se reducen las fricciones en el chat. Además, el sistema de reexpresión también notificará a los participantes del chat sobre los mensajes reformulados, asegurando que la comunidad siga informada sobre los cambios en la conversación.
El anuncio de la nueva función de reexpresión se da en un contexto donde Roblox ya había tomado medidas para fortalecer la seguridad de su plataforma. Recientemente, la empresa introdujo la verificación facial obligatoria para acceder a los chats, una respuesta a las preocupaciones planteadas por varios fiscales generales en relación con la seguridad infantil. Estos pasos son parte del esfuerzo continuo de Roblox por mantener un espacio seguro y protegido para sus jóvenes usuarios, especialmente después de las críticas por riesgos asociados con el acoso o contenido inapropiado.
En un esfuerzo por mejorar aún más la protección de los usuarios, Roblox también está optimizando su sistema de filtrado de texto para detectar variaciones más sofisticadas de lenguaje prohibido. Según la empresa, los primeros resultados han mostrado un avance significativo en la detección de leetspeak y otros intentos de eludir los filtros. Esto ha permitido reducir la prevalencia de falsos negativos al compartir información personal en un 20x. Estas innovaciones no solo apuntan a enriquecer la experiencia de los usuarios, sino a solidificar la reputación de Roblox como una plataforma comprometida con la seguridad y el bienestar de su comunidad.
