O TikTok anunciou nesta sexta-feira (20) o lançamento global de uma ferramenta de detecção de imagens semelhantes, projetada para identificar e denunciar conteúdos manipulados por inteligência artificial que utilizem a imagem de políticos e figuras públicas sem autorização. A medida visa combater a disseminação de desinformação na plataforma antes da realização de eleições em diversos países europeus no próximo ano, incluindo França, Itália e Grécia.
Disponibilizada de forma gradual, a funcionalidade permite que políticos e usuários com grande volume de seguidores sinalizem produções geradas por inteligência artificial que reproduzam suas imagens sem consentimento. Os deepfakes, conhecidos como conteúdos ultrafalsos, consistem em vídeos e áudios que simulam a realidade, mas foram totalmente criados ou alterados por meio de tecnologia sintética.
A iniciativa integra os esforços da plataforma, controlada pela empresa chinesa ByteDance, para resguardar a integridade dos processos eleitorais. Durante um evento sobre inovação e segurança realizado na última quinta-feira, em Londres, a responsável pelas relações governamentais da empresa para os pleitos europeus, Francesca Scapolo, enfatizou a relevância do mecanismo. “Proteger a integridade das eleições é uma das responsabilidades mais importantes que temos no TikTok”, declarou a executiva, acrescentando que o recurso ajudará “políticos e governos a identificar conteúdos potencialmente gerados por IA que tenham sido compartilhados sem seu consentimento”.
A novidade ocorre em meio à implementação de regras abrangentes de transparência sobre inteligência artificial pela União Europeia, iniciada em agosto. As diretrizes europeias exigem a identificação, por meio de etiquetas específicas, de deepfakes e outros materiais produzidos com o uso dessa tecnologia. O próprio TikTok já obriga os criadores, há vários anos, a sinalizarem mídias realistas geradas por algoritmos.
O avanço dessas ferramentas automatizadas também se relaciona com reestruturações internas no setor de tecnologia. No ano passado, a companhia informou que o progresso tecnológico permitiria enxugar escritórios de moderação e reduzir postos de trabalho globais. O uso de sistemas inteligentes cresceu na indústria como uma estratégia para conter custos com a revisão humana de materiais sensíveis, como discurso de ódio, pornografia e desinformação.
Outras redes acompanham a tendência, como o YouTube, que desenvolveu uma ferramenta própria voltada a identificar vídeos em IA com pessoas se passando por criadores de conteúdo. Paralelamente, em relação ao controle de qualidade informacional, a AFP e mais de uma dezena de organizações de checagem de fatos recebem pagamentos do TikTok em diversos países para verificar produções em vídeo que possam veicular dados falsos.

