A OpenAI está adaptando a criação de conteúdo sintético de texto no ChatGPT (Android, iOS) e Codex (Android, iOS). para se adequar à regulação de inteligência artificial da União Europeia, o Ato de IA da UE. Ao todo, a companhia apresenta três grandes mudanças:
- A adição de marca d’água invisível e estatísticas às entregas de output do ChatGPT e Codex na UE;
- Clientes globais via API vão poder optar por ativar marca d’água nos modelos, mas a marca em texto vai seguir desligada por padrão na API;
- A abertura de inscrições para acessar o detector de marca d’água de texto para pesquisadores e especialistas de organizações que possam validar e melhorar a tecnologia conhecida como textGrain.
O fato de a ferramenta de detecção não ser aberta está ligado ao risco de falsos positivos e a algumas imperfeições — como a dificuldade de detectar a marca d’água em textos longos, o enfraquecimento da detecção ao trocar palavras por sinônimos ou reescrever trechos e o fato de conteúdos de áreas com limitação de palavras (como matemática) apresentarem taxas de detecção menores do que áreas mais abertas (psicologia, por exemplo).
Vale dizer que essa medida só serve para saber se um conteúdo foi feito por IA, não garante a veracidade do material, não identifica o usuário e tampouco define autoria ou mede esforço humano.
Além disso, a OpenAI já usa outros padrões de marca d’água invisível, como C2PA e SynthID.
