OpenAI cria ‘marca d’água’ invisível para identificar textos de IA

A OpenAI anunciou uma tecnologia para identificar textos e códigos gerados por Inteligência Artificial, em cumprimento a novas regras de transparência da União Europeia. A empresa desenvolveu o sistema textGrain, que adiciona uma ‘marca d’água’ invisível aos conteúdos produzidos por seus modelos.

Como funciona a marca d’água do ChatGPT?

Diferente de uma marca d’água visual, o usuário não vê nenhum símbolo no texto. O textGrain insere um sinal estatístico invisível nas escolhas de palavras do modelo. Esse padrão pode ser analisado por um detector específico para determinar se o conteúdo foi gerado por IA. Em testes, o sistema igualou ou superou tecnologias similares.

Limitações da detecção

A própria OpenAI alerta que a ferramenta não é infalível. O desempenho ideal em condições controladas não garante confiabilidade no uso cotidiano. Entre os principais desafios estão:

• Textos curtos: Quanto menor o texto, mais difícil identificar o sinal.
• Edições posteriores: Alterações no conteúdo podem remover o padrão estatístico.
• Conteúdos matemáticos: Problemas resolvidos por IA podem não gerar sinal detectável.

A empresa enfatiza que a presença ou ausência da marca não deve ser interpretada como prova definitiva da origem do conteúdo.

Implementação restrita à União Europeia

A OpenAI esclareceu que a marca d’água não será aplicada globalmente. Inicialmente, estará disponível apenas para textos do ChatGPT e Codex na UE. Os usuários precisarão ativar o recurso em determinados modelos. O acesso às ferramentas de detecção será limitado a pesquisadores e organizações especializadas, sem detalhes sobre quais instituições.

A medida faz parte da adaptação das empresas de tecnologia às novas exigências europeias para aumentar a transparência sobre conteúdos gerados por Inteligência Artificial.

🧉 Papo de Capivara

Um oceano debaixo dos pés

A região turística das Rotas de Fronteira não é apenas um polo agrícola ou comercial. Por baixo da terra, estes municípios abrigam uma das maiores reservas de água doce subterrânea de toda a América do Sul: o famoso Aquífero Guarani.

📍 Fonte: Tourist Regions - Fundação de Turismo de MS 🌟 Uma curiosidade do MS por dia