Xbox lança quarto relatório de transparência compartilhando as mais novas aplicações de IA na segurança em videogames

Nesta terça-feira (14) a Microsoft lança o quarto Relatório de Transparência Xbox, que demonstra os avanços na promoção da segurança dos jogadores e os compromisso com a transparência.

O Xbox, continua dedicado a avançar na aplicação responsável da IA para amplificar a expertise humana na detecção de potencial toxicidade. Esta é uma oportunidade única de criar inovações de segurança líderes na indústria, aproveitando os investimentos da Microsoft que combinam os últimos avanços em IA generativa com a expertise e julgamento humano.

A abordagem progressiva de utilizar a IA para categorizar e identificar conteúdo prejudicial é orientada pelo Responsable AI Stardard da Microsoft (em inglês) e permite que os moderadores humanos se concentrem nos danos mais complexos e sutis, garantindo que as ações para proteger a comunidade de jogos sejam precisas, consistentes e justas.

Os primeiros investimentos apoiados pela IA incluem:

• A Autoetiquetagem ajuda a classificar textos de conversas identificando palavras ou frases que correspondem a critérios e características de conteúdo potencialmente prejudicial. Esta abordagem utiliza a IA para analisar o conteúdo textual reportado e ajuda os moderadores da comunidade a classificar rapidamente relatórios falsos, para que os esforços de moderação humana possam se concentrar no conteúdo mais crítico.
• O Reconhecimento de Padrões de Imagem, potencializado por técnicas avançadas de banco de dados e correspondência de imagens, permite a remoção rápida de conteúdo prejudicial conhecido e a identificação de imagens tóxicas emergentes.

Entre os principais pontos destacados no relatório:

• Novas Formas Eficazes de Proteger os Jogadores. O comportamento dos jogadores no chat de voz de Xbox melhorou significativamente desde o lançamento do nosso novo recurso de relatório de voz (disponível somente em regiões de língua inglesa). O recurso tem sido eficaz em permitir que os jogadores relatem comportamentos verbais inadequados com impacto mínimo em sua jogabilidade. Desde o seu lançamento, 138 mil registros de voz foram capturados utilizando o sistema ‘capture agora, relate depois’. Quando esses relatórios resultaram em uma Ação de Fiscalização, 98% dos jogadores mostraram melhoria em seu comportamento e não receberam fiscalizações subsequentes. Além disso, atualizamos nossa abordagem proativa para prevenir de forma mais eficaz que conteúdos prejudiciais alcancem os jogadores (3,2 milhões de linhas de texto a mais do que no último relatório, ou 67%), permitindo que os jogadores se envolvam de maneira positiva. A Microsoft continua a investir em recursos que protejam e aprimoram a experiência do jogador no Xbox.
• Compreensão das Fiscalizações Leva a uma Comunidade Mais Segura. O Enforcement Strike System foi lançado no ano passado para promover uma jogabilidade positiva enquanto ajuda os jogadores a entenderem a gravidade de uma violação. Desde o seu lançamento, 88% daqueles que receberam uma Ação de Fiscalização não se envolveram em atividades que violassem nossos Padrões da Comunidade para receber outra fiscalização. Também reduzimos a duração das suspensões no geral para ofensas menores. Das fiscalizações que anteriormente resultariam em uma suspensão de 3 dias ou mais, 44% receberam uma redução no tempo. A combinação desses resultados mostra que a maioria dos jogadores opta por melhorar seu comportamento após apenas uma suspensão, mesmo quando é curta.
• Bloqueio de Contas Não Autenticas Antes que Elas Tenham Impacto. Investindo continuamente em maneiras de identificar contas não autênticas, o que permitiu a Microsoft bloquear muitas delas assim que são criadas, impedindo que afetem os jogadores. Os métodos aprimorados impediram milhões de contas não autênticas de serem usadas assim que são criadas e levaram a uma diminuição no número de fiscalizações proativas em contas inautênticas pela primeira vez em dois anos, com as fiscalizações caindo de 16,3 milhões no último relatório para 7,3 milhões.