Como identificar conteúdos gerados por IA?

Imagens de situações que nunca aconteceram, vídeos com pessoas dizendo coisas que não disseram e áudios que imitam vozes conhecidas estão entre os exemplos de conteúdos que podem ser criados com inteligência artificial (IA). E como essas produções estão cada vez mais realistas, nem sempre é fácil distinguir o que é verdadeiro do que foi gerado ou alterado digitalmente.

Então, diante desse desafio, as próprias empresas responsáveis por IAs que geram conteúdos já estão disponibilizando ferramentas de verificação. Esse é o caso do Google com o SynthID Detector e a OpenAI com o Verify. Essas duas plataformas podem ajudar a investigar a origem de um material online antes de acreditar nele ou compartilhá-lo.

SynthID Detector: a ferramenta do Google que identifica conteúdos de IA

Na última quarta-feira (07/10), o Google ampliou o acesso ao SynthID Detector, uma ferramenta que permite verificar se imagens, vídeos e áudios contêm marcas digitais associadas a conteúdos gerados por inteligência artificial.

Essas marcas d’água digitais são geradas através do SynthID, uma tecnologia desenvolvida pelo Google DeepMind. Elas são incorporadas ao próprio conteúdo durante sua criação com a IA. A marca d’água SynthID não fica visível para quem observa uma imagem ou escuta um áudio, mas podem ser reconhecidas pela tecnologia de verificação.

Inicialmente, uma versão prévia do SynthID Detector foi lançada ano passado para profissionais de mídias. Mas agora com ampliação do Google, qualquer pessoa pode enviar um arquivo para investigar se ele foi produzido com inteligência artificial do Google ou de parceiros participantes, incluindo a OpenAI, a NVIDIA, a Kakao e, em breve, a Apple. Apesar de ter sido disponibilizada globalmente, por enquanto, a ferramenta funciona somente em inglês.

Para usar o SynthID Detector, basta acessar o site oficial da ferramenta e fazer o upload do arquivo que deseja verificar. A plataforma aceita imagens nos formatos JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF, GIF; vídeos em MP4, MOV, WEBM e áudios em WAV, MP3, OGG, FLAC, AAC, M4A.

Verify, da OpenAI, ajuda a conferir a origem de imagens e áudios

O Verify é uma ferramenta disponibilizada pela OpenAI que também possibilita verificar a procedência em imagens e arquivos de áudio.

O recurso procura informações que ajudam a identificar se um conteúdo foi gerado com ferramentas da empresa, como o ChatGPT, o Codex ou a API da OpenAI. Entre os elementos analisados estão as Credenciais de Conteúdo que podem registrar informações sobre a origem e o histórico de um arquivo. A ferramenta também consegue identificar a presença das marcas d’água digitais SynthID do Google DeepMind.

Para utilizar a ferramenta, basta acessar o site do Verify e enviar um arquivo compatível com os formatos: PNG, JPG, WEBP, MP3, WAV, AAC, FLAC, OGG, OPUS, PCM.

Os detectores de inteligência artificial são confiáveis?

Apesar de úteis, os recursos de verificação têm limitações. Cada ferramenta procura sinais específicos e, por isso, pode não reconhecer conteúdos produzidos por sistemas que não são compatíveis com sua tecnologia. Por exemplo, o SynthID Detector não é indicado para verificar imagens produzidas pelo Meta AI ou Grok.

Além disso, informações sobre a origem de um arquivo podem se perder durante edições, conversões de formato ou compartilhamentos. Algumas alterações também podem dificultar a identificação das marcas d’água digitais.

Por esses motivos, é importante interpretar os resultados com cuidado. Quando uma ferramenta encontra um sinal associado à geração por inteligência artificial, isso ajuda a esclarecer a procedência do conteúdo, mas não significa que ele seja falso ou enganoso. Uma imagem criada artificialmente pode ser usada em uma ilustração sem a intenção de enganar, por exemplo.

Da mesma forma, quando nenhum sinal é encontrado, não é possível concluir que o material foi necessariamente produzido por uma pessoa. Ele pode ter sido criado por outra ferramenta de inteligência artificial ou ter perdido as informações que permitiriam identificá-lo.

Quais sinais podem indicar que um conteúdo foi criado por IA?

Mesmo sem recorrer a ferramentas específicas, alguns detalhes podem levantar dúvidas sobre a origem de uma imagem, vídeo ou áudio. Essas pistas não são provas definitivas, mas ajudam a perceber quando vale a pena investigar melhor.

Nas imagens, observe pequenos detalhes, como mãos, dentes, textos e objetos ao fundo. Sombras que não combinam com a iluminação, reflexos estranhos e padrões repetitivos também podem chamar a atenção. Em imagens criadas por inteligência artificial, esses elementos podem apresentar inconsistências, embora os resultados mais recentes sejam capazes de reproduzir muitos detalhes com precisão.

Nos vídeos, vale observar se os movimentos parecem naturais, se as expressões faciais acompanham a fala e se há mudanças estranhas entre as cenas. Também é importante conferir se o trecho apresentado corresponde ao contexto da publicação original.

Nos áudios, alterações incomuns na entonação, pausas pouco naturais ou diferenças entre a voz e a situação apresentada podem servir de alerta. Ainda assim, esses sinais variam conforme a tecnologia utilizada e nem sempre são fáceis de perceber.

Verificar um conteúdo antes de acreditar e, principalmente, compartilhar é uma forma simples de evitar a propagação de conteúdos enganosos. Porém, nem sempre será possível confirmar a origem de uma imagem, vídeo ou áudio. Por isso, quando houver dúvidas, é melhor buscar mais informações sobre o contexto antes de apresentá-lo como verdadeiro.

A Plataformanet é uma agência de marketing digital que traz toda semana informações sobre o mundo da tecnologia, entre outras dicas de serviços e aplicativos. Continue acessando o nosso caderno de tecnologia e acompanhe as novidades.