Facebook proíbe deepfakes que possam enganar "usuário médio"

Em um esforço contra a manipulação de informação, o Facebook decidiu proibir vídeos de deepfakes capazes de enganar o "usuário médio". Ou seja, alguém que não é absolutamente leigo, mas na pressa pode ser levado a crer em narrativas falsas. 

• O que é Deep Fake e porque você deveria se preocupar
• Califórnia tenta combater deepfakes na política e em vídeos adultos

A abordagem da rede social soma vários componentes, que vão desde a investigação de conteúdos gerados por inteligência artificial e engajamento enganoso (como contas falsas), até parcerias com universidades, governo e indústria para expor os autores.

Facebook proíbe deepfakes

De acordo com o Facebook, as manipulações mais comuns na rede social envolvem tecnologia simples como o Adobe Photoshop. Outras, mais raras, fazem uso de ferramentas sofisticadas que usam inteligência artificial ou técnicas de deep learning para criar vídeos que distorcem a realidade — os vídeos falsos que são mais conhecidos como deepfakes. A plataforma não divulgou números sobre a popularidade deles.

"Embora esses vídeos ainda sejam raros na Internet, eles representam um desafio significativo para nossa indústria e sociedade à medida que seu uso aumenta", diz o comunicado assindo por Monika Bickert, Vice President, Global Policy Management.

Para chegar a tal decisão, a Bickert afirma que a plataforma consultou mais de 50 especialistas em todo o mundo com formação técnica, política, de mídia, jurídica, cívica e acadêmica para criar suas políticas e melhorar a sua detecção de mídias manipuladas.

Como a remoção de deepfake vai funcionar no Facebook

No futuro — a rede social não determinou a partir de quando — serão removidas mídias manipuladas com orientação enganosa se ela atende a dois dos critérios:

• Discurso Manipulado: o vídeo foi editado — indo além de ajustes de clareza ou de qualidade — de maneira que isso não fica evidente para um usuário médio e provavelmente levaria essa pessoa a acreditar que alguém do vídeo disse palavras que, na verdade, não disse. A manipulação de discurso sobre imagem de alguém.
  
  e
• Falsificação de trechos: o vídeo é produto de inteligência artificial ou de aprendizado de máquina (machine learning) que mescle, substitua ou sobreponha um conteúdo a um vídeo, fazendo com que pareça autêntico (se passe por real).

Embora seja um primeiro passo, a nova política do Facebook ainda não prevê restrições para vídeos enganosos feitos por métodos de manipulação de vídeo menos avançados. As manipulações grosseiras ainda poderão ser encontradas. Há quem acredite nelas.

Ainda de acordo com a rede social, os vídeos apontados como falsos (ou contendo informações falsas) e que não atendem a esses padrões de remoção automáticos ainda são elegíveis para revisão por parceiros de checagem de fatos independentes, que incluem mais de 50 instituições em todo o mundo, em mais de 40 idiomas.

Caso o post seja declarado falso pelos parceiros da plataforma, o Facebook reduzirá significativamente sua distribuição no Feed de Notícias e o rejeitará se estiver sendo exibido como um anúncio. Pessoas que o veem, tentam compartilhá-lo ou já o compartilharam, receberão avisos alertando-os de que o conteúdo traz dados falsos.

• Como conter o tsunami da fake news?
• Instagram expande checagem de fake news o mundo inteiro
• Facebook e Instagram também combatem fake news sobre vacinas
• YouTube coloca alertas para combater vídeos de fake news no Brasil

Sátiras e cortes de edição

Para quem se alarmou sobre as novas regras, Bickert deixou claro que a política não se estende ao conteúdo que é paródia ou sátira. Vídeos que foram editados apenas para omitir ou alterar a ordem das palavras, como cortes, também não estão sob escrutínio.

A executiva lembrou ainda que, conforme as políticas do Facebook para áudio, fotos ou vídeos já existentes — seja o post um deepfake ou não — serão removidos posts se violarem qualquer um dos outros padrões da comunidade: nudez, violência gráfica, supressão de eleitores (estratégia usada para influenciar o resultado de uma eleição, desencorajando ou impedindo que grupos de pessoas votem) e discurso de ódio.

Em setembro de 2019, o Facebook lançou o Deep Fake Detection Challenge, que estimulou pessoas de todo o mundo a produzir mais pesquisas e ferramentas de código aberto para detectar deepfakes. A ação é uma mudança de atitude depois que a rede social optou por manter no ar um deepfake de Mark Zuckerberg, mas no Instagram.

As mudanças anunciadas no comunicado, porém, só se aplicam ao Facebook.com.

Com informações: Facebook

Facebook proíbe deepfakes que possam enganar "usuário médio"

Facebook proíbe deepfakes que possam enganar "usuário médio"publicado primeiro em https://tecnoblog.net