Como o Facebook vai moderar o áudio ao vivo notoriamente difícil?

O Facebook anunciou uma linha de produtos de “áudio social” na semana passada. Esse movimento faz sentido em teoria, mas também levanta a espinhosa questão de como eles irão moderar esses novos espaços.

Os produtos foram anunciados oficialmente em uma entrevista com Casey Newton no Sidechannel, um servidor Discord, em 19 de abril. O Facebook adicionará alguns recursos diferentes: uma versão apenas de áudio do Rooms; Soundbits, que é basicamente TikTok, mas para áudio; Salas de áudio ao vivo em estilo clubhouse; e seus próprios podcasts.

Essa não é uma direção surpreendente para a plataforma, dado que muitas outras empresas de mídia social já estão no espaço de áudio, incluindo Clubhouse e Twitter’s Spaces. Mas o lançamento desses produtos irá adicionar mais três espaços que o Facebook precisa moderar para desinformação, discurso de ódio e assédio.

Se os últimos anos nos ensinaram alguma coisa, é que moderação não é o forte do Facebook. Desde sua tentativa pouco convincente de lidar com as “notícias falsas” e a disseminação desenfreada da desinformação até seu papel em facilitar o discurso de ódio, o Facebook não tem sido exatamente um líder no mundo da moderação. Até os próprios moderadores denunciaram a hipocrisia e o desprezo de Mark Zuckerberg por sua saúde durante a pandemia.

Durante sua entrevista com Newton no Sidechannel, Zuckerberg disse que a plataforma usará um pouco do que ela aprendeu moderando texto e vídeo para áudio.

“Temos um pouco de prática nesta área, tanto de todo o trabalho mais amplo de integridade, confiança e segurança que fazemos, onde acho que neste ponto provavelmente construímos as ferramentas de longe. Da IA mais avançada para ser capaz de identificar diferentes conteúdos nocivos e em todas essas categorias, sejam atividades terroristas ou exploração de crianças para pessoas que incitam a violência ”, disse Zuckerberg:“ Nós acabamos de ficar cada vez melhores na criação de ferramentas que podem identificar proativa e automaticamente esse problema e eu acho que nossa equipe está trabalhando nisso tudo. As coisas são como 1000 pessoas sentadas na empresa, então é apenas do lado da IA ​​ou do lado da engenharia. “

Embora o Facebook tenha melhorado na moderação de texto e vídeo, especialmente com conteúdo em inglês nos Estados Unidos, o áudio ao vivo é notoriamente difícil de moderar.

“Na verdade, isso é algo que a indústria de videogames vem lutando há muito tempo”, disse Daniel Kelley, diretor associado do Centro de Tecnologia e Sociedade da Liga Anti-Difamação, ao Mashable. Uma pesquisa realizada pela ADL em 2020 descobriu que cerca de metade das pessoas que sofrem assédio em jogos online sofrem assédio em chat de voz. E isso é difícil de resolver, disse Kelley, porque “não há os mesmos níveis de desenvolvimento de tecnologia com respeito à moderação em bate-papo de áudio como em conteúdo textual”.

“Os problemas específicos com streaming de áudio ao vivo permanecerão os mesmos, estejam eles no Facebook ou em outras plataformas”, disse Kelley. “Eu gostaria apenas de destacar o histórico de moderação do ódio do Facebook … O Facebook não corrigiu ou fez o suficiente para combater o ódio em seus produtos básicos – no Facebook, no Instagram – com texto.”

O Facebook não começa do térreo com moderação de áudio, no entanto. Outras plataformas, como Discord, por exemplo, moderaram áudio ao vivo por anos.

“O áudio é mais difícil de moderar porque é fugaz e em tempo real”, disse Clint Smith, Diretor Jurídico da Discord, ao Mashable. “É mais difícil investigar depois do fato. Mas também fazemos isso há quase seis anos. Portanto, temos voz ao vivo desde nosso início em 2015 e achamos que nossa abordagem de moderação de conteúdo está funcionando muito bem para isso.” áudio ao vivo. “

O Discord não está gravando nenhum som. Em vez disso, há moderadores da comunidade nos servidores que controlam quem fica, quem fica preso em uma conversa e o que é ou não apropriado para falar. Se precisarem de mais ajuda, eles podem enviar uma mensagem para a equipe de confiança e segurança. O Twitter Spaces, por outro lado, retém áudio por 30 dias ou mais se houver um problema que precise ser resolvido. O Clubhouse exclui todos os arquivos de áudio, a menos que haja um relatório do usuário.

“A gravação é um assunto complicado e acho que é melhor lidar com o nível da comunidade também”, disse Smith, acrescentando que o Discord não tem um produto ou recurso que permite aos usuários fazer logon. ‘Grave conversas, mas isso os usuários podem usar ferramentas de terceiros. “A comunidade decide, neste nível, se a voz se torna permanente ou efêmera. Acho que a escolha da comunidade é importante, e também é importante que a posição da comunidade sobre a gravação de áudio seja conhecida e compreendida. Pelos participantes nos eventos da comunidade . “

O Facebook ainda não explicou como planeja moderar o áudio ao vivo ou gravado. E não saberemos até que mais informações sobre o produto e suas diretrizes de moderação sejam divulgadas.

“Há também a questão de a que você deve se opor”, disse Zuckerberg no Sidechannel. “Será um debate aberto. Se voltarmos cinco anos, acho que muito mais pessoas estavam mais do lado da liberdade de expressão. Hoje, muitas pessoas ainda estão, mas também há essa onda crescente de pessoas … que estão basicamente pedindo que mais coisas sejam bloqueadas ou limitadas de uma forma ou de outra. “

Veremos mais detalhes sobre como o áudio será moderado à medida que cada uma das novas ferramentas do Facebook for lançada, mas o fato de termos que esperar fala de um problema maior.

“Em um mundo ideal, o Facebook teria anunciado, junto com a criação deste espaço, que quebrou a tecnologia para realmente moderar o conteúdo de streaming ao vivo”, disse Kelley. “E eles não fizeram.”

Siga o Mashable SEA no Facebook, Twitter, Instagram e YouTube.


About admin

Check Also

Em breve, o Microsoft Edge permitirá que você envie guias entre o Windows 10 e o Android

O navegador Edge da Microsoft rapidamente se tornou um dos navegadores de desktop mais populares. …

Leave a Reply

Your email address will not be published. Required fields are marked *