Correios de voz falsos, também conhecidos como “deepvoices”, estão atualmente na moda no espaço de desinformação online. Estas vozes falsas geradas pela inteligência artificial tornaram-se uma ferramenta poderosa para influenciar a opinião pública e semear a confusão.
Em New Hampshire, durante as primárias Democratas e Republicanas, alguns eleitores foram vítimas destas mensagens de voz falsas. Eles receberam ligações alegando ser de Joe Biden, instando-os a não votar nas eleições primárias. Essas ligações foram tão convincentes que muitos destinatários foram enganados.
“Deepvoices” são criados usando software de inteligência artificial que pode clonar e imitar perfeitamente uma voz. Esses softwares estão facilmente disponíveis online, tornando a criação de mensagens de voz falsas acessível a todos. Basta fazer upload de uma amostra da voz da pessoa que você deseja imitar e o software usa algoritmos para gerar um áudio quase indistinguível da voz original.
A dificuldade está em identificar essas mensagens de voz falsas. Ao contrário dos vídeos deepfake, onde inconsistências visuais podem ser detectadas, o áudio falso é muito mais difícil de detectar. Na verdade, é raro termos acesso à gravação de voz original, o que dificulta a comparação. Além disso, tendemos a confiar cegamente no que ouvimos, o que facilita a propagação de informações erradas.
As consequências destas mensagens de voz falsas são profundas. Podem influenciar os resultados eleitorais, manipulando os eleitores e desacreditando os candidatos. Além disso, alimentam a desconfiança e o ceticismo em relação aos meios de comunicação e à informação online, minando a nossa confiança na democracia.
Diante deste problema crescente, é essencial desenvolver ferramentas de detecção confiáveis para identificar mensagens de voz falsas. Empresas como Loccus.ai e Reality Defender já iniciaram esse caminho, mas ainda há muito trabalho a ser feito para tornar essas ferramentas acessíveis a todos.
Concluindo, mensagens de voz falsas, ou “vozes profundas”, tornaram-se uma formidável ferramenta de desinformação. A sua fácil criação e dificuldade de identificação fazem deles uma séria ameaça à democracia e à confiança do público na informação online. É urgente encontrar soluções para combater esta nova forma de manipulação.