A OpenAI vai lançar um ChatGPT (Android, iOS) voltado para adolescentes com controles parentais para menores de 18 anos enquanto a empresa trabalha para reforçar as proteções de segurança para este público.
“Estamos desenvolvendo recursos avançados de segurança para garantir que seus dados sejam privados, até mesmo para funcionários da OpenAI. Assim como ocorre com privilégios em outras categorias, haverá certas exceções: por exemplo, sistemas automatizados monitorarão possíveis usos indevidos graves, e os riscos mais críticos — ameaças à vida de alguém, planos de prejudicar outras pessoas ou danos em escala social, como um possível incidente massivo de cibersegurança — poderão ser encaminhados para revisão humana”, escreveu a empresa em seu site nesta terça-feira, 16.
A partir do momento em que a OpenAI identificar que se trata de um usuário menor de idade, ele será direcionado a um modelo do ChatGPT adequado à sua idade. Neste caso, ele bloqueia conteúdo gráfico e sexual e pode acionar autoridades em casos de sofrimento agudo.
A companhia também desenvolve uma ferramenta capaz de prever melhor a idade dos usuários, mas, caso haja incerteza ou informações incompletas, o ChatGPT aplicará por padrão a experiência voltada para menores de 18 anos.
Vale dizer que, segundo a OpenAI, o ChatGPT é destinado para usuários a partir de 13 anos.
De acordo com a mais recente pesquisa Panorama Mobile Time/Opinion Box sobre uso de smartphones por crianças e adolescentes, 33% dos jovens brasileiros de 13 a 16 anos usam o ChatGPT.
OpenAI e o controle parental
Os novos controles permitirão que pais vinculem sua conta do ChatGPT à de seus filhos por e-mail, configurem horários de bloqueio nos quais o adolescente não poderá usar o assistente virtual, gerenciem quais recursos serão desativados, definam como o chatbot deve responder e recebam notificações caso o adolescente esteja em sofrimento agudo.
As atualizações de segurança da startup surgem após a Comissão Federal de Comércio dos EUA (FTC, na sigla em inglês) abrir recentemente uma investigação contra várias empresas de tecnologia, incluindo a OpenAI, sobre como chatbots de IA podem afetar negativamente crianças e adolescentes.
