Google lança nova ferramenta para detectar imagens de IA

As imagens de IA tornaram-se tão realistas que é difícil diferenciar entre imagens falsas e reais. No entanto, o Google agora está apresentando uma nova ferramenta que ajudará a detectar imagens geradas por IA.

Uma nova ferramenta chamada SynthID foi lançada pelo Google Cloud em parceria com o Google DeepMind e o Google Research. Essa ferramenta ajuda a identificar imagens geradas por inteligência artificial (IA), que estão se tornando cada vez mais realistas.

Essas imagens geradas por IA são criadas por computadores e às vezes podem ser confundidas com imagens reais.

O SynthID coloca uma marca d’água nessas imagens, mas fica tão bem escondido que os humanos não conseguem vê-lo. No entanto, os computadores podem detectar esta marca d’água, o que torna mais fácil detectar imagens geradas por IA.

Nova tecnologia

Essa tecnologia está sendo disponibilizada para alguns clientes especiais que utilizam Vertex AI e um modelo chamado Imagen. Imagen é um sistema inteligente que transforma texto em imagens realistas.

A IA generativa, que é a tecnologia por trás dessas imagens geradas por IA, está avançando rapidamente. Está cada vez mais difícil distinguir entre imagens feitas por IA e aquelas feitas por pessoas.

Embora a IA possa ser usada para fins criativos, ela também pode ser usada para criar imagens falsas que espalham informações falsas.

Identificar o conteúdo gerado pela IA é crucial porque ajuda as pessoas a saber quando estão vendo algo criado por um computador. Também pode impedir a disseminação de informações erradas.

O Google Cloud está liderando o caminho ao oferecer esta ferramenta. É a primeira empresa de nuvem a fornecer uma ferramenta para criar imagens geradas por IA e encontrá-las posteriormente. O Google leva muito a sério o uso responsável da IA.

SynthID

SynthID não é perfeito, mas é um grande passo em frente. Ele pode detectar imagens feitas por IA, mesmo que tenham sido um pouco alteradas. Essa ferramenta também pode crescer para funcionar com outras coisas que a IA cria, como som, vídeo e texto.

Tradicionalmente, as marcas d’água eram usadas para marcar imagens, mas eram fáceis de remover ou alterar. A marca d’água do SynthID é diferente porque não prejudica a qualidade da imagem.

Mesmo se você alterar as cores ou o tamanho da imagem, a marca d’água permanecerá oculta e os computadores ainda poderão localizá-la.

SynthID usa dois sistemas inteligentes para fazer seu trabalho. Um para adicionar a marca d’água e outro para localizá-la. Eles aprenderam juntos olhando muitas fotos diferentes, então são realmente bons em seu trabalho.

Isso ajuda a manter a ótima aparência das imagens e, ao mesmo tempo, torna-as mais fáceis de detectar.