La nueva IA encargada de la moderación del chat de Call of Duty es un éxito, reduce la toxicidad en un 43%

A la hora de jugar a videojuegos online, es muy habitual acabar frustrados por múltiples razones. Podemos sufrir constantes derrotas, tener adversarios que nos superan y son mejores que nosotros o acabar en disputas con otras personas. La toxicidad es bastante habitual en este tipo de juegos y Call of Duty no se libra para nada de ella, pues es uno de los shooters donde más vamos a ver esta presente. Es un juego de acción rápida y si somos susceptibles a enfadarnos al morir, nos va a pasar muchas veces. Para poder combatir este tipo de situaciones, Call of Duty hace uso de una IA que se encarga de la moderación del chat de voz, habiendo reducido en un 43% la toxicidad desde principios de año, según Activision Blizzard.

Cada vez que hablamos de la IA parece ser que sus mayores usos son para generar imágenes o para ofrecernos respuestas a preguntas, pero como solemos decir, el potencial que tiene va a determinarse si se entrenan modelos para otros fines. Así es como hemos visto que la inteligencia artificial puede llegar a ser útil a la hora de investigar nuevos materiales o descubrir nuevos usos de los que tenemos actualmente, además de posibles avances en medicina que se lograrían más rápido con esta.

La IA ToxMod reduce la toxicidad de Call of Duty en un 43%

Call of Duty Emparejamiento

También hemos empezado a ver como la IA se emplea en el desarrollo de juegos y se han realizado demostraciones bastante interesantes como la de los creadores de Roblox. Estos mostraron como podía utilizarse una inteligencia artificial para poder crear escenarios de videojuegos en un tiempo récord. Por otro lado, hace poco vimos como el mapa Dust II de Counter-Strike: Global Offensive era simulado por una IA y se podía jugar a unos 10 FPS con una RTX 3090. Ahora nos toca hablar de juegos y la IA aunque con un uso distinto. Resulta que Activision Blizzard decidió añadir ToxMod, una IA encargada de la moderación del chat, con el lanzamiento de Call of Duty: Modern Warfare III en noviembre.

Después de estar un tiempo analizando los chats, ya es momento de actuar y desde principios de año, ha conseguido reducir en un 43% la toxicidad en el chat de voz de Call of Duty. Para poder moderar de forma efectiva, ToxMod analiza las palabras y las separa entre insultos y amenazas de acoso. También se encarga de clasificar la edad y el género tanto del interlocutor como de los destinatarios para entender el contexto.

Black Ops 6 también usará esta IA, la cual será compatible con dos nuevos idiomas

Call-of-Duty-Black-Ops-6-requisitos-PC

Esta IA moderadora no tiene la capacidad de expulsar a gente de la partida, pero puede identificar a gente potencialmente tóxica para que posteriormente una persona humana se encargue de determinar si se ha tenido una mala actitud hacia otros jugadores. Estos jugadores pueden recibir una advertencia que les indican sobre el comportamiento que han tenido, algo que parece haber sido un éxito, si tenemos en cuenta que los infractores reincidentes han bajado un 67% desde junio de 2024. Por otro lado, en julio de 2024, el 80% de lo jugadores que recibieron un aviso infringiendo las normas no volvieron a repetir su comportamiento.

ToxMod se ha aplicado en todos los países excepto la región de Asia y es capaz de moderar el chat de voz en inglés, portugués y como no, español. Tras haber visto el éxito de esta IA, Activision la implementará también con el próximo Call of Duty: Black Ops 6 que añadirá moderación en alemán y francés.