Google lança programa que ajuda a identificar comentários abusivos

O Google e a Jigsaw, ambos controlados pela holding Alphabet, lançaram na quinta-feira (23) uma nova tecnologia para ajudar empresas de mídia e plataformas online a identificar comentários abusivos em seus sites. Apelidada de Perspectiva, a tecnologia revisará comentários, classificando-os com base na similaridade com observações que pessoas consideram "tóxicas" ou que provavelmente as levariam a deixar a conversa.

O serviço já foi testado pelo jornal "New York Times" e as empresas esperam disponibilizá-lo para outros veículos de imprensa, como o britânico "The Guardian" e a revista "The Economist", além de sites de notícia. Os veículos de comunicação querem encorajar o engajamento e a discussão em torno de seu conteúdo, mas identificar em meio a milhares de comentários aqueles que são ofensivos ou abusivos requer muito dinheiro, trabalho e tempo. Como resultado, muitos sites bloquearam a função de uma vez por todas", disse Jared Cohen, presidente da Jigsaw, que faz parte da Alphabet, em postagem em um blog.

"Mas eles nos dizem que essa não é a solução que eles querem. Achamos que a tecnologia pode ajudar", acrescentou. A tecnologia lançada examinou centenas de milhares de comentários rotulados como ofensivos por usuários para aprender como identificar linguagem potencialmente abusiva.

Para CJ Adams, gerente de produtos da Jigsaw, a empresa está aberta para disponibilizar a tecnologia para todas as plataformas, sem especificar se isso incluiria as grandes como o Facebook e o Twitter, onde a publicação de comentários ofensivos pode se tornar uma dor de cabeça. O serviço pode ser expandido no futuro, de modo a identificar ataques pessoais ou comentários fora de contexto, segundo Cohen. A tecnologia não decide o que fazer com os comentários considerados potencialmente abusivos.

Em vez disso, os editores serão capazes de sinalizar para seus moderadores ou desenvolver ferramentas para ajudar usuários a entender o impacto do que escrevem. Conforme Cohen, uma porção significativa de comentários abusivos parte de pessoas que estão "apenas tendo um dia ruim".

A iniciativa acontece após esforços de Google e Facebook para conter a disseminação de notícias falsas na França, Alemanha, Estados Unidos, depois que foram atacados durante a campanha presidencial dos EUA, quando ficou claro que haviam inadvertidamente publicado notícias falsas. O debate em torno de falsas notícias tem provocado pedidos de políticos para que as redes sociais sejam responsabilizadas pelo conteúdo em suas plataformas.

A Jigsaw está oferecendo o produto para as publicações de graça e espera que possa ser utilizado em breve em outras línguas, além do inglês, disse Cohen em uma entrevista. Embora a tecnologia ainda esteja em seus primeiros dias e possa interpretar mal linguagem como o sarcasmo, ela vai ser aperfeiçoada ao longo do tempo, disse Cohen.