A OpenAI anunciou que terá uma nova ferramenta para garantir maior segurança a adolescentes que usam o ChatGPT. Em comunicado publicado nesta terça-feira, 20, a empresa revelou que, a partir dos hábitos de uso, a função “Previsão de Idade” conseguirá verificar se a conta em uso é ou não de um menor de idade. Se confirmada, medidas de segurança serão adotadas para que o jovem não tenha acesso a conteúdos mais sensíveis ou prejudiciais, como:
- Violência explícita ou conteúdo sangrento;
- Desafios virais que incentivem comportamentos de risco;
- Encenações sexuais, românticas ou violentas;
- Simulações de automutilação;
- Promoções extremas de padrões de beleza, dietas e constrangimento do corpo.
Para saber se o usuário é ou não um adolescente, o modelo analisa uma série de parâmetros, como o tempo de existência da conta, horários e a evolução dos padrões de uso com o avançar do tempo, além da idade declarada pelo usuário. De acordo com a OpenAI, essas métricas foram orientadas por especialistas em desenvolvimento infantil. Vale lembrar que os pais também podem impor restrições de uso aos filhos dentro do ChatGPT.
Quem for erroneamente tratado como um menor de idade poderá restaurar seu perfil de adulto, através do Persona, que verificará a identidade. A classificação equivocada pode ocorrer caso o usuário não tenha preenchido todas as informações. Para saber se está classificada como um jovem adolescente, a pessoa deverá acessar as configurações da IA e selecionar a conta.
Por ora, a Previsão de Idade será lançada inicialmente para a União Europeia, onde começará a funcionar em algumas semanas.
