DeepMind testa rótulo de conteúdo de IA em meio a temores de desinformação

A DeepMind, uma empresa de IA com sede em Londres e propriedade do Google, está testando uma ferramenta de marca d'água digital que pode detectar e rotular conteúdo gerado artificialmente.

Chamada SynthID, a ferramenta incorpora o rótulo nos pixels individuais de uma imagem. Os humanos não conseguirão ver a marca, mas os computadores poderão detectá-la e determinar que ela é gerada por IA.

O SynthID, que por enquanto está sendo testado internamente para o modelo de geração de imagens do próprio Google, é uma tentativa da DeepMind de combater a desinformação do conteúdo de IA, uma preocupação fundamental com a ascensão da tecnologia.

No entanto, a DeepMind alertou que seu sistema de marca d’água não é “infalível contra manipulação extrema de imagens”.

Embora as ferramentas generativas de IA com capacidade para criar imagens realistas só tenham estado disponíveis ao público durante um curto período de tempo, já existiram boatos que vão desde piadas inofensivas até propaganda política.

No início deste ano, uma imagem do Papa Francisco vestindo uma jaqueta de grife se tornou viral antes que as pessoas percebessem que ela havia sido criada pela IA. Na mesma época, fotos retratando uma prisão fictícia de Donald Trump circularam nas redes sociais, enganando várias pessoas antes de serem denunciadas como falsas.

A desinformação alimentada pela IA tornou-se ainda mais uma preocupação significativa à medida que tanto o Reino Unido como os EUA se aproximam de eleições importantes.

Este mês, o debate sobre imagens falsas que influenciam a política no Reino Unido foi ainda mais acirrado quando um deputado trabalhista partilhou uma fotografia do primeiro-ministro Rishi Sunak a servir uma caneca de cerveja ao lado de uma mulher que a desaprovava. Mais tarde, descobriu-se que ele foi alterado para retratar Sunak sob uma luz ruim.

Embora não tenha sido feita com IA, a imagem editada gerou uma resposta agressiva, com a secretária de tecnologia Michelle Donelan acessando o Twitter para compartilhar sua desaprovação.

“Na era dos deepfakes e das imagens digitalmente distorcidas, é ainda mais importante poder ter fontes confiáveis ​​de informação em que você possa confiar. Nenhum membro eleito do parlamento deveria enganar o público com imagens falsas”, disse Donelan. “Isso é algo muito desesperador do Partido Trabalhista.”

A detecção de imagens falsas geradas pela IA será provavelmente discutida na próxima Cimeira de Segurança da IA, que reunirá líderes e especialistas internacionais para explorar uma abordagem global para regular a tecnologia.

Consulte Mais informação:Regulamentação da IA ​​é um ‘grande desafio para os formuladores de políticas’, diz Lib Dem MP