En su compromiso constante por mejorar la seguridad y experiencia de sus usuarios, Xbox ha lanzado innovadoras herramientas de inteligencia artificial (IA) destinadas a proteger a los jugadores de mensajes no deseados y comportamientos disruptivos en su plataforma.

La vicepresidenta de Confianza y Seguridad en videojuegos, Kim Kunes, subrayó la importancia de estas iniciativas para fomentar un entorno de juego inclusivo y seguro.

Compromiso

Xbox reafirma su compromiso con la comunidad de jugadores al implementar mecanismos para prevenir prácticas dañinas. En su reciente Informe sobre Transparencia, se documentan los esfuerzos realizados entre enero y junio de 2024 para combatir contenido irreverente, spam y publicidad no solicitada. Además, el informe detalla cómo la IA se incorpora en estas medidas de seguridad. Durante este periodo, se impidió la aparición de 19 millones de piezas de contenido que violaban los Estándares de la comunidad de Xbox, abarcando textos, imágenes y videos.

Estrategia

El nuevo enfoque de Xbox se centra en dos objetivos clave: proteger a los jugadores de mensajes dañinos y conservar la autenticidad de la experiencia de juego en línea. Kunes destaca la utilidad de la nueva Experiencia de amigos y seguidores de Xbox, diseñada para ofrecer a los usuarios un mayor control sobre sus interacciones.

Reportes de jugadores

Los reportes de los jugadores son un pilar fundamental en la estrategia de seguridad de Xbox. Durante el primer semestre de 2024, se observó un incremento en los reportes de spam y publicidad en la plataforma, lo cual derivó en una respuesta firme de la empresa. Los reportes pasaron de 320,000 en enero a 1.7 millones en abril, evidenciando la implicación activa de los jugadores en el mantenimiento de la comunidad. Los mensajes de Buscando grupo (LFG) se reportaron en 2 millones de casos, mientras que los reportes generales aumentaron un 8% respecto al periodo anterior, alcanzando los 30 millones.

Herramientas de IA

Xbox ha introducido dos herramientas de IA en su estrategia de moderación. La primera, Xbox AutoMod, lanzada en febrero, ha gestionado 1.2 millones de casos, facilitando la eliminación de contenido dañino un 88% más rápido. La segunda herramienta, presentada en julio, opera de forma proactiva para prevenir comunicaciones no deseadas, enfocándose inicialmente en spam y publicidad, con planes de expansión para abarcar otros comportamientos perjudiciales.

Estas herramientas de IA funcionan dentro de un sistema de seguridad que combina la intervención de los jugadores con el apoyo de moderadores humanos, asegurando una aplicación coherente de las políticas comunitarias. Este modelo busca establecer un ciclo de retroalimentación continua que fortalezca la infraestructura de la comunidad de Xbox.

Minecraft

La seguridad en juegos también incluye a Minecraft. Mojang Studios ha implementado una función en Minecraft: Bedrock Edition que envía recordatorios sobre los Estándares de la comunidad cuando se detectan comportamientos inapropiados en el chat. Esta herramienta busca que los jugadores reflexionen sobre su conducta antes de que se tomen medidas más serias, como la suspensión de cuentas.

Además, la colaboración con GamerSafer ha permitido a numerosos propietarios de servidores mejorar la gestión de sus comunidades, facilitando a los jugadores y sus familias encontrar servidores con prácticas de seguridad robustas.

Call of Duty

Por su parte, Call of Duty sigue comprometido con la reducción de la toxicidad. Desde noviembre de 2023, se han bloqueado más de 45 millones de mensajes en 20 idiomas, como parte de su estrategia de moderación basada en tecnología avanzada y IA. La exposición a toxicidad en la comunicación verbal se ha reducido en un 43%, con soporte de moderación en varios idiomas, incluyendo francés, alemán, español y portugués.

Futuro

A medida que la industria de los videojuegos evoluciona, Xbox y sus socios trabajan en la construcción de una comunidad inclusiva, promoviendo un ambiente de respeto y competencia justa. Xbox mantiene su compromiso con la seguridad de los usuarios, aplicando una IA responsable y trabajando conforme al Estándar de IA Responsable de Microsoft. Estas acciones reflejan la dedicación de Xbox a la creación de experiencias de juego que no solo sean entretenidas, sino también seguras para todos los usuarios.

Este compromiso con una comunidad segura es una invitación a los jugadores para colaborar en la construcción de experiencias de juego inmersivas y enriquecedoras en entornos protegidos. Con la participación activa de todos, esta visión puede hacerse realidad.