A OpenAI disponibilizou nesta segunda-feira, 29, a opção de Controle Parental para o ChatGPT (Android, iOS), além de uma nova página de recursos para pais. Anunciado há duas semanas, o recurso permite que os responsáveis vinculem sua conta a de seus filhos adolescentes e personalizem configurações. A novidade permitirá que a experiência de uso do assistente virtual seja compatível com a idade e que o adulto possa gerenciar como as crianças vão usar a inteligência artificial generativa. Entre as novidades, notificações para que pais saibam que o jovem pode estar em sofrimento agudo.
Para configurar os controles parentais, a pessoa responsável envia um convite para a criança conectar as contas. Depois que o adolescente aceita, o responsável pode gerenciar as configurações da conta do menor a partir de sua própria conta. O inverso também pode ser feito, ou seja, o adolescente pode convidar os pais para se conectar com ele.
Em seguida, é possível personalizar a experiência a partir de uma página de controle em Configurações da conta. Caso o menor desvincule as contas, os responsáveis serão notificados.
Salvaguardas e personalizações da OpenAI
Quando responsáveis e adolescentes se conectam, a conta do menor sofre restrições de conteúdo gráfico; desafios virais; roleplay de cunho sexual, romântico ou violento; e ideais extremos de beleza.
Cabe somente aos adultos alterarem esses recursos e não aos adolescentes.
Há também outros recursos adicionais para personalizar a experiência. São eles:
- Definir horários em que o ChatGPT não pode ser usado;
- Desativar o modo de voz, para remover a opção de usar o ChatGPT por voz;
- Desativar a memória, para que o ChatGPT não salve nem utilize memórias ao responder;
- Bloquear a geração de imagens, para que o ChatGPT não crie nem edite imagens;
- Excluir o treinamento de modelo, para que as conversas do adolescente não sejam usadas no aprimoramento dos modelos que alimentam o ChatGPT.
Notificações em casos extremos
A OpenAI desenvolveu um sistema de notificação para que pais fiquem sabendo caso os adolescentes estejam usando o ChatGPT em casos difíceis. Os recursos, de acordo com a empresa, ajudam a identificar sinais de que um adolescente esteja pensando em se machucar. Neste caso, uma equipe de revisores avaliará a situação. Caso haja sinais de sofrimento agudo, a empresa entra em contato com os responsáveis por e-mail, mensagem de texto e notificação no celular. Mas é preciso que os adultos optem por receber notificações.
Ajuda para desenhar as novas ferramentas
A OpenAI diz trabalhar em colaboração com especialistas, grupos de defesa – como a Common Sense Media – e formuladores de políticas, incluindo os procuradores-gerais da Califórnia e de Delaware, para orientar sua abordagem. A ideia é expandir os controles com o tempo.
Há também parceria com especialistas em saúde mental e em adolescência. Mas a empresa reforça constantemente que nenhum sistema é perfeito e que as funcionalidades operam melhor se combinadas com conversas contínuas sobre o uso responsável da IA, regras claras da família sobre tecnologia e envolvimento ativo em entender o que o adolescente está fazendo online.
