8 de mai.2 min para ler

Como detectar se uma imagem foi gerada por IA

OpenAI Lança Ferramenta de Detecção de Imagens AI

A OpenAI anunciou o lançamento de uma nova ferramenta capaz de detectar imagens geradas por sua tecnologia de geração de imagens, DALL-E 3. A ferramenta mostra uma precisão de 98% sob condições ideais, mas enfrenta desafios quando as imagens são alteradas.

Desafios na Detecção de Imagens AI

Embora a ferramenta seja eficaz na identificação de imagens não modificadas do DALL-E 3, ela pode ser enganada por mudanças simples, como capturas de tela ou recortes. Isso destaca a corrida contínua das empresas de IA para acompanhar a capacidade de rastrear sua própria tecnologia.

Impacto nas Eleições e Políticas Públicas

A proliferação de imagens falsas geradas por IA tem causado confusão sobre a autenticidade do conteúdo online, especialmente em relação às campanhas eleitorais de 2024. A OpenAI está colaborando com outras startups e empresas de tecnologia para desenvolver ferramentas que ajudem a combater esse problema.

Iniciativas para Resiliência Social

Além da ferramenta de detecção, a OpenAI e a Microsoft estão criando um fundo de “resiliência social” de $2 milhões para apoiar a educação em IA. A OpenAI também se juntou a um grupo do setor para estabelecer credenciais de conteúdo para imagens online.

Como funciona

A ferramenta de detecção da OpenAI, funciona da seguinte maneira:

Detecção de Imagens: Identifica se uma imagem foi gerada pelo gerador de texto para imagem DALL-E 3 da OpenAI.
Alta Precisão: A ferramenta é 98% precisa em detectar imagens do DALL-E 3, a menos que a imagem seja alterada.
Desafios: Pequenas mudanças, como capturas de tela ou recortes, podem confundir a ferramenta, reduzindo sua eficácia.
Limitações: A performance da ferramenta diminui se a tonalidade das imagens for alterada.