Num mundo onde o conteúdo gerado pela inteligência artificial é cada vez mais predominante, torna-se crucial distinguir o que é real do que não é. É por isso que o Facebook e o Instagram anunciaram que em breve adicionariam rótulos às imagens geradas por IA que aparecem nos feeds de notícias de seus usuários. Esta iniciativa faz parte de uma colaboração mais ampla com a indústria tecnológica para identificar e rotular conteúdos criados por IA.
A Meta, empresa por trás do Facebook e do Instagram, está trabalhando com parceiros da indústria para desenvolver padrões técnicos que facilitarão a identificação de imagens e, eventualmente, de vídeos e áudio gerados por IA. Esta iniciativa visa ajudar os usuários a determinar a linha entre conteúdo humano e sintético.
Porém, é importante ressaltar que esta iniciativa não conseguirá detectar tudo. As ferramentas atuais facilitam a criação e distribuição de imagens geradas por IA, o que pode causar danos, como a divulgação de informações falsas durante períodos eleitorais ou a criação de imagens falsas e comprometedoras de celebridades.
Apesar das suas limitações, esta nova funcionalidade ainda pode ser eficaz na identificação de grande parte do conteúdo gerado por ferramentas comerciais. A Meta já começou a rotular suas próprias imagens geradas por IA como “Imaginadas com IA”. No entanto, a maior parte do conteúdo gerado por IA que circula nas plataformas Meta vem de outras fontes.
Esses esforços para rotular e marcar conteúdo gerado por IA não se limitam ao Facebook e ao Instagram. Várias colaborações da indústria, como a iniciativa Content Authenticity liderada pela Adobe, estão trabalhando para estabelecer padrões nesta área. Além disso, o presidente da Meta, Nick Clegg, esclareceu que rótulos também serão adicionados às imagens geradas por ferramentas desenvolvidas pelo Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock.
Esta iniciativa surge num momento crucial, com muitas eleições importantes a decorrer em todo o mundo. Ao fornecer aos usuários uma indicação da origem das imagens que veem, a Meta espera ajudar a prevenir a propagação de conteúdo manipulado.
No entanto, apesar destes esforços de marcação e rotulagem, é essencial que as plataformas de redes sociais comuniquem claramente aos utilizadores o que estes rótulos significam e que nível de confiança devem depositar neles. Também é importante observar que esses rótulos provavelmente não cobrirão todo o conteúdo gerado por IA, o que poderia criar uma falsa sensação de segurança.
Ainda há muito a fazer para combater a proliferação de conteúdos gerados pela IA e as suas consequências potencialmente prejudiciais. No entanto, a iniciativa da Meta e de outros do setor é um passo na direção certa para ajudar os usuários a distinguir entre o real e o sintético.