OpenAI começará a colocar marca d’água no texto do ChatGPT na UE

A OpenAI começará a adicionar uma marca d’água invisível ao texto gerado pelo ChatGPT e Codex na União Europeia para cumprir a Lei de IA da UE, disse a empresa na segunda-feira em um postagem no blog.

As regras de transparência da Lei da IA ​​da UEque entrou em vigor em 2 de agosto, exige que as empresas de IA marquem o conteúdo gerado por IA de uma forma que outros sistemas possam identificar.

A OpenAI disse que a marca d’água será lançada nas próximas semanas para usuários qualificados do ChatGPT e Codex em todos os planos, mas apenas na UE. Os desenvolvedores que usam a API OpenAI em qualquer lugar do mundo podem ativá-la para modelos selecionados a partir de hoje; está desativado por padrão. A OpenAI disse que não está tornando a marca d’água de texto um padrão global no lançamento.

A marca d’água não é um símbolo real, mas funciona moldando sutilmente as escolhas de palavras do modelo, deixando um padrão que os leitores não podem ver, mas que um detector pode captar. Por viver nas próprias palavras, acompanha o texto quando ele é copiado e colado. A OpenAI disse que a marca d’água não identifica o usuário e que não viu nenhuma mudança significativa no desempenho de seus modelos com ela ligada.

OpenAI também publicou um relatório técnico para seu método, chamado textGrain, junto com o anúncio. Co-escrito com pesquisadores da Universidade da Pensilvânia e de Yale, ele apresenta um exemplo de uso de uma chave secreta para classificar as previsões da próxima palavra para terminar a frase. Adicione centenas desses toques e o detector poderá detectar conteúdo gerado por IA usando apenas o texto e a chave.

A marca d’água pode ser removida editando? Os testes da OpenAI sugerem que sim. Em um teste, substituir 10% das palavras por sinônimos reduziu a detecção de cerca de 92% para 66%. A empresa também disse que passagens curtas, respostas matemáticas e textos traduzidos são mais difíceis de detectar.

“Essas limitações contribuem para a nossa decisão de fornecer acesso inicial ao detector apenas a pesquisadores aprovados e organizações especializadas, que podem nos ajudar a avaliar a confiabilidade e o uso responsável”, disse a empresa.

A OpenAI também alertou que a falta de uma marca d’água “não prova a autoria humana”. O texto pode ser muito curto ou muito editado, ou pode vir da IA ​​de outra empresa.

“(Marcas d’água) podem indicar que um sistema OpenAI gerou ou processou parte de uma passagem, mas não quanto julgamento humano, edição ou criatividade foi investido nela”, disse a empresa.

O anúncio ocorre dois meses depois que a Anthropic disse que colocaria uma marca d’água no texto gerado por Claude, uma medida que está aplicando em todo o mundo. Essa decisão gerou reação de alguns usuários do Claude, que argumentaram ter fornecido “as instruções, o contexto, as decisões”, enquanto Claude era apenas “a ferramenta”.

A OpenAI já havia criado uma marca d’água de texto antes, mas adiou seu lançamento, em parte devido a preocupações de que os usuários mudariam para rivais que não tinham marca d’água, O Wall Street Journal informou em 2024.

Anthropic, Google, Meta, Microsoft e OpenAI estão entre as empresas que se comprometeram a seguir o Código de conduta da UE em conteúdo gerado por IA.