Em jogos online, inteligência artificial consegue captar mensagens abusivas no bate-papo

Discursos de ódio verbalizados em chats de jogos serão captados pela inteligência artificial. De fato, há quem não saiba que alguns jogos online já estão fazendo uso da IA para identificar frases de assédio, violência e descriminalização. A máquina se chama ToxMod, usada para analisar diferentes conversas entre os jogadores presentes na plataforma.

Ao detectar alguma frase agressiva, a IA vai sinalizar à comunidade do jogo o que tem acontecido. A ideia surgiu da empresa Modulate, de Massachusetts, e está sendo testados em diferentes empresas de e-sports. A Riot Games, dona do jogo League of Legens, com mais de 100 milhões de jogadores ativos mensalmente, também está fazendo teste com a IA, assim como a Rec Room, Virtex Stadium, PokerStars e Gun Raiders.

De acordo com o CEO da Modulate, Carter Huffman, a demanda pode oferecer amplos recursos para as empresas:

“Você pode ter centenas de milhões ou bilhões de horas de bate-papo por voz por mês […] Nosso trabalho é filtrar tudo isso até o núcleo das coisas que estão realmente piorando a experiência do jogador e tendo um impacto negativo”, afirmou.

O impacto negativo dos discursos de ódio, conforme registrado, alcançou 70% dos pré-adolescentes, 66% dos adolescentes e 86% dos adultos que relataram sofrer com agressões verbais nos jogos online, conforme afirma o relatório da Anti-Defamation League 2022. Outros 20% dos adultos e 15% dos jovens relataram um domínio de pessoas brancas participantes dos jogos Call of Duty, Valorant, World of Warcraft, Fortnite e outros.

Inteligência artificial vai detectar discursos de ódio em jogos

As afirmativas da IA fazem uso de uma gama de recursos utilizados. Ao identificar a violação da comunidade, expondo verbalmente atitudes ofensivas, a comunicação será analisada de forma minuciosa.

De forma particular, cada empresa que faz uso da IA escolhe a forma que vai informar a seus usuários que estão sendo acompanhados por um robô durante a comunicação. A tendência da criação é tornar o ambiente virtual de jogos um lugar em que as pessoas possam se sentir confortáveis.

A comunicação verbal será analisada, mas os discursos não verbais também não ficarão impunes pela IA, tal como a criação de grupos representados pelo símbolo nazista ou a manifestação de ódio por meio de ações dentro do próprio jogo.