Estos días no sólo vienen siendo especiales para Xbox por el esperadísimo lanzamiento de “Senua’s Saga: Hellblade II“, sino también porque la empresa compartió detalles de su cuarto Informe de Transparencia. En conexión con ello, la compañía resaltó el rol de la IA en la construcción de un ambiente de juego más seguro.
A continuación les compartimos el comunicado oficial, para poder aprender e interiorizarnos más con el Informe y sus resultados:
“Xbox publicó está semana su cuarto Informe de Transparencia, donde brinda detalles sobre los avances de la marca en materia de promoción de la seguridad de los jugadores y refuerza su firme compromiso por transparentar la industria del gaming. En el reporte, la compañía de Microsoft destaca su intención de seguir fomentando el crecimiento de una comunidad gamer más segura e inclusiva basada en las inversiones e innovaciones que la marca desarrolla.
En ese sentido, Xbox destacó la importancia de la aplicación responsable de la IA para amplificar la experiencia humana en la detección de actitudes potencialmente tóxicas cuando se interactúa en los videojuegos. La compañía destacó la oportunidad única de crear innovaciones de seguridad líderes en la industria que protejan mejor a los jugadores, aprovechando inversiones de Microsoft que combinan los últimos avances en IA generativa con experiencia y juicio humanos.
“Nuestro enfoque para aprovechar la IA para categorizar e identificar contenido perjudicial se guía por el Responsible AI Standard de Microsoft y permite a nuestros moderadores humanos centrarse en los daños más complejos y matizados, asegurando que nuestras acciones para proteger a la comunidad de jugadores sean precisas, consistentes y justas”, señaló Kim Kunes, vicepresidenta de Gaming Trust & Safety de Microsoft.
Entre las primeras inversiones respaldadas por IA de Xbox se destacan:
- Auto Labeling: ayuda a clasificar texto conversacional identificando palabras o frases que coinciden con criterios y características de contenido potencialmente perjudicial. Este enfoque utiliza IA para analizar el contenido de texto informado y ayuda a los moderadores de la comunidad a clasificar rápidamente los informes falsos para que los esfuerzos de moderación humana puedan centrarse en el contenido más crítico.
- Image Pattern Matching: impulsado por bases de datos avanzadas y técnicas de comparación de imágenes, permite una rápida eliminación de contenido perjudicial conocido y la identificación de imágenes tóxicas emergentes.
Entre las conclusiones clave del informe se encuentran:
- Nuevas formas efectivas de proteger a los jugadores: el comportamiento de los jugadores en el chat de voz de Xbox ha mejorado significativamente desde el lanzamiento de la nueva función de informes de voz. La función ha sido eficaz al permitir a los jugadores informar comportamientos verbales inapropiados con un impacto mínimo en su juego. Desde su lanzamiento, se han capturado 138.000 registros de voz utilizando nuestro sistema “capturar ahora, informar más tarde”. Cuando esos informes resultaron en un strike de cumplimiento, 98% de los jugadores mostraron una mejora en su comportamiento y no recibieron controles posteriores. Además, Xbox actualizó su enfoque proactivo para evitar de manera más efectiva que contenido perjudicial llegue a los jugadores (3.2 millones de líneas de texto más que el último informe, o 67%), permitiendo a los jugadores participar de manera positiva. Continuaremos invirtiendo en funciones que protejan y mejoren la experiencia del jugador de Xbox.
- La comprensión de las medidas de cumplimiento permite una comunidad más segura: el sistema de medidas disciplinarias basado en strikes se lanzó el año pasado para promover el juego positivo y al mismo tiempo ayudar a los jugadores a comprender la gravedad de una infracción. Desde su lanzamiento, 88% de aquellos que recibieron un strike de cumplimiento no participaron en actividades que violaran los estándares de la comunidad para recibir otra aplicación de cumplimiento. También se redujo la duración de las suspensiones en general para infracciones menores. De las ejecuciones que anteriormente habrían resultado en una suspensión de 3 días o más, 44% recibió una duración reducida. La combinación de estos resultados muestra que la mayoría de los jugadores optan por mejorar su comportamiento después de una sola suspensión, incluso cuando ésta es corta.
- Bloquear cuentas no auténticas antes de que tengan impacto: la marca constantemente invierte en la detección de cuentas no auténticas, lo que ha permitido bloquear rápidamente muchas de ellas tan pronto como se crean, evitando que afecten a los jugadores. Los métodos mejorados impidieron que se utilizaran millones de cuentas no auténticas tan pronto como se crearon y han llevado a una disminución en el número de controles proactivos sobre cuentas no auténticas por primera vez en dos años, con una disminución de los 16.3 millones en el último informe a 7.3 millones”.
