Anthropic, Google, Meta, Microsoft, Mistral e OpenAI assinam compromisso na UE para marcar textos de IA; Grok de Elon Musk recusa

As empresas Anthropic, Google, Meta, Microsoft, Mistral e OpenAI assinaram na União Europeia um compromisso para marcar os textos gerados por seus chatbots de inteligência artificial. A medida visa indicar a origem robótica do conteúdo, sem alterações visíveis para o usuário, mas com marcações detectáveis em metadados e por programas de computador.

Compromisso global com efeito imediato

De acordo com comunicado da Anthropic, dona do Claude, divulgado nesta terça-feira (11), o compromisso terá impacto global, embora a jurisdição seja restrita ao bloco europeu. Atualizações nos termos de uso do ChatGPT e do Claude já refletem as mudanças.

Empresas como OpenAI e Anthropic afirmam que as marcações serão aplicadas a todos os modelos ativos e futuros, inclusive para conteúdos gerados por meio de provedores de nuvem como AWS, Google Cloud e Microsoft Foundry.

Grok, de Elon Musk, fica de fora

A única grande ausente foi a xAI, desenvolvedora do Grok, pertencente a Elon Musk. A empresa não aderiu ao código de práticas e transparência para conteúdos gerados por IA, segundo o documento assinado na UE.

Como funcionará a marcação de textos

A Anthropic detalhou o mecanismo em suas regras de privacidade:

• Marcas d’água integradas: O texto gerado conterá marcas invisíveis inseridas diretamente no conteúdo.
• Metadados de procedência: Arquivos incluirão assinatura digital para rastreamento.
• Resistência a edições: A marcação permanece mesmo após cópia e cola, mas pode ser removida tecnicamente.

A OpenAI, por sua vez, informou que expandirá os indicadores de procedência para todas as modalidades de conteúdo, incluindo texto, para atender obrigações de transparência.

Impacto no uso e receio de estigmatização

Pesquisas de mercado indicam que a marcação pode reduzir o valor dos textos gerados por IA. Um levantamento da OpenAI em 2024 mostrou que cerca de 30% dos usuários usariam menos a plataforma se os textos tivessem um marcador ativo.

O receio de estigmatização e afastamento dos usuários levou a OpenAI a adiar a adoção de uma técnica de marcação desenvolvida em agosto de 2024, conforme relato de funcionários ao The Wall Street Journal.

Limitações técnicas reconhecidas

O professor de ciência de dados da Universidade da Virgínia, Stephen Turner, aponta falhas no método: falsos positivos (conteúdo modificado pelo Claude pode ser marcado como IA), falsos negativos (texto gerado pode não ser detectado) e marcação em textos humanos (escritos por pessoas podem ser erroneamente identificados como robóticos).

Além disso, metadados podem ser removidos na internet, como já ocorre com imagens geradas por IA.

🧉 Papo de Capivara

O motor das águas do Pantanal

O Pantanal não inunda sozinho. A bacia do Alto Paraguai descarrega o volume pesado das chuvas que caem lá no planalto, agindo como uma caixa d'água natural que afoga a planície todo ano.

📍 Fonte: Characterisation of PRNH / Biodiversidade em MS 🌟 Uma curiosidade do MS por dia