Call of Duty a por los jugadores tóxicos: usará la IA ToxMod para moderar los chat de voz
El mundo de los videojuegos es, posiblemente, uno de los sectores más tóxicos del mundo. La cantidad de insultos, improperios y descalificaciones son constantes en muchos títulos, unos más que otros, sin duda. Pero según las encuestas hay uno que se lleva la palma sobre el resto: Call of Duty. Es la franquicia más grande en FPS y como tal, Activision ha decidido poner cartas en este asunto gracias a nada menos que una IA. Así, Call of Duty inicia su andadura con los jugadores tóxicos gracias a la moderación de su chat de voz con IA, la cual toma por nombre ToxMod. ¿Será efectivo?
Las cosas han ido demasiado lejos con COD. Tanto es así que incluso un grupo de SWAT tuvo que entrar a casa de un jugador tras un falso aviso provocado por otro jugador que facilitó su dirección, el culmen del típico jugador que no tiene límites, y que ahora se le va a poner a la fuerza.
Call of Duty estrenará un chat de voz que será moderado por una IA
La imposibilidad física de tener a un moderador en cada partida a nivel mundial, o siquiera de guardar y poder revisar las partidas denunciadas por jugadores a tiempo, donde se saltan todos los filtros con palabras retorcidas o modificadas para no ser baneados, va a llegar a su fin. Todo lo que ha hecho Activision hasta ahora solo ha sido paliativo, pero gracias a la intervención de la empresa Modulate, esto va a cambiar.
Existe una tecnología de IA llamada ToxMod, el cual es un sistema de moderación vocal que funciona cada vez mejor, porque va aprendiendo de los tonos, las palabras, las expresiones y, en definitiva, de los discursos de odio o bulling de los jugadores.
Todo se hace en tiempo real, no hay delay, y ya se está probando. De hecho, Activision habla de un lanzamiento casi mundial, donde solo se salva Asia, por el momento.
La Beta de ToxMod de Modulate está funcionando en dos juegos
Pues sí, ya está activo y aunque no hay todavía datos y reportes, Activision ha dejado claro que está funcionando en Call of Duty: Modern Warfare II y Call of Duty: Warzone, pero además, también se implementará en Call of Duty: Modern Warfare III a partir del 10 de noviembre.
¿Cómo consigue bloquear ToxMod a los usuarios? ¿Cómo funciona? La compañía ha dado una serie de pautas y características para que lo podamos comprender:
Basado en tecnología avanzada de aprendizaje automático y diseñado teniendo en cuenta la seguridad y privacidad del jugador, ToxMod clasifica el chat de voz para detectar malos comportamientos, analiza los matices de cada conversación para determinar la toxicidad y permite a los moderadores responder rápidamente a cada incidente proporcionando un contexto relevante y preciso.
ToxMod nació para comprender todos los matices de la voz. Va más allá de la transcripción y considera las emociones, los actos de habla, las respuestas del oyente y mucho más. Por ello, se convierte en un experto en el código de conducta de un juego y escala lo que más importa con alta prioridad a su equipo moderador.
Todos los datos del usuario son anonimizados y protegidos según los estándares ISO 27001. Modulate nunca venderá ni alquilará los datos. A diferencia de los informes reactivos de los jugadores, que dependen de que los jugadores tomen medidas para informar mal comportamiento, ToxMod es la única solución de moderación de voz en los juegos actuales que permite a los estudios responder de manera proactiva al comportamiento tóxico a medida que ocurre, lo que evita que el daño aumente.
Se sigue requiriendo un equipo de humanos para tomar las acciones pertinentes
Es decir, ToxMod detecta la infracción y avisa al equipo de moderación de Activision, que analiza el caso de forma individual y toma las acciones pertinentes mediante humanos. Es una forma mucho más rápida y taxativa de terminar con los jugadores tóxicos. De hecho, las estadísticas de Modulate afirman que el 67% de los jugadores multijugador dejarían su juego si los rivales muestran un comportamiento tóxico.
Y además, el 83% afirma que sufre o ha sufrido a este tipo de jugadores tóxicos. ¿Terminará ToxMod con esto de forma efectiva?