Para tentar combater as imagens “deep fake”, o Google está testando uma marca d’água digital para detectar e sinalizar imagens criadas por inteligência artificial (IA) para parecer reais.

Desenvolvido pela Deepmind, o braço de IA do Google, o SynthID identificará imagens geradas por máquinas. Ele funciona incorporando alterações em pixels individuais nas imagens, de modo que as marcas d’água sejam invisíveis ao olho humano, mas detectáveis pelos computadores.

Contudo, a DeepMind alertou que o sistema não é “infalível contra a manipulação extrema de imagens”.

O Google possui seu próprio gerador de imagens chamado Imagen. O novo sistema de criação e verificação de marcas d’água só se aplica a imagens criadas com esta ferramenta.

O sistema do Google cria uma marca d’água efetivamente invisível, que permitirá que as pessoas usem seu software para descobrir instantaneamente se a imagem é real ou feita por uma máquina.

Segundo Pushmeet Kohli, chefe de pesquisa da DeepMind, o sistema modifica imagens de maneira tão sutil que para um ser humano não muda nada. Mesmo depois que a imagem seja cortada ou editada, o software da empresa ainda pode identificar a presença da marca d’água.

Com informações da BBC