Imagens feitas por IA sobre eleições já dominam redes sociais, diz estudo – EERBONUS
TESTE DO NOVO ANUNCIO

Imagens feitas por IA sobre eleições já dominam redes sociais, diz estudo

Imagens criadas com ajuda de ferramentas de inteligência artificial (IA) podem facilmente espalhar desinformação durante períodos eleitorais. Essa é uma das conclusões de um novo relatório do Center for Countering Digital Hate, ou CCDH, uma entidade especializada em campanhas de ódio nas redes sociais.

De acordo com o estudo, IAs generativas já são usadas para criar imagens falsas envolvendo candidatos e figuras políticas famosas, além de cenas que supostamente mostram momentos de votação ou contagem de votos e são postadas como supostas evidências.

Para piorar a situação, as principais plataformas do setor ainda não criaram medidas específicas para proibir ou reduzir esse tipo de prática — mesmo faltando poucos meses para eleições em países como Brasil e Estados Unidos.

IA como ameaça à democracia

No estudo, o CCDH usou plataformas populares de criação de imagem, como Midjourney, a versão paga do ChatGPT e o Microsoft Image Creator para testar se o serviço bloqueia ou não prompts que podem ser usados para espalhar desinformação eleitoral.

Em 41% dos casos, os serviços de IA geraram resultados normalmente. Eles mostram candidatos como Joe Biden e Donald Trump em cenas totalmente falsas, como o candidato democrata doente em uma cama de hospital ou conversando com um “clone” na Casa Branca.

Fotos falsas geradas por IA como parte do estudo.Fonte:  CCDH 

Além disso, as IAs geraram quase sem questionamentos supostos flagras fotorrealistas de manipulação de votos. Foram poucos os casos em que os serviços notaram a intenção possivelmente criminosa do prompt e impediu a geração do resultado.

O Midjourney foi o serviço com o pior desempenho, aceitando criar imagens falsas na maior parte das tentativas e até disponibilizando publicamente para outros usuários algumas dessas criações.

Durante o estudo, o CCDH detectou a viralização de ilustrações feitas com IA a partir de eleitores. Em uma das imagens, Trump aparece ao lado de apoiadores de origem negra — uma parcela da população que estatisticamente rejeita o candidato.

Algumas criações de fotos por IA envolvendo políticos já viralizam entre apoiadores.Algumas criações de fotos por IA envolvendo políticos já viralizam entre apoiadores.Fonte:  CCDH 

Em fevereiro, uma aliança de várias empresas de tecnologia e plataformas do setor anunciaram uma aliança para combater o uso criminoso e voltado para desinformação dos serviços de IA.

Em nota enviada à Reuters após a publicação do estudo, o fundador do Midjourney, David Holz, confirmou que uma atualização para impedir a criação de conteúdos eleitorais (apenas para o contexto dos EUA) está a caminho.

FONTE

Deixe um comentário