A OpenAI, empresa criadora do ChatGPT, anunciou que a ferramenta de inteligência artificial vai ganhar um recurso de controle parental a partir de outubro. A novidade permitirá que pais acompanhem o uso feito pelos filhos adolescentes e recebam alertas caso o sistema identifique sinais de sofrimento emocional.
O anúncio foi feito uma semana depois de a OpenAI ser processada por pais de um adolescente de 16 anos nos Estados Unidos. Eles acusam a empresa de responsabilidade pela morte do filho.
O que muda
Segundo a empresa, os adultos poderão:
- Vincular suas contas às dos filhos;
- Receber notificações automáticas em caso de interações que indiquem “grande sofrimento”;
- Desativar recursos como memória e histórico de conversas;
- Ajustar a forma como o chatbot apresenta respostas a adolescentes.
A ferramenta foi criada com apoio de especialistas em saúde mental, desenvolvimento juvenil e interação humano-computador.
Medidas adicionais
A companhia afirma que o controle parental faz parte de uma iniciativa mais ampla para aprimorar a resposta da IA em interações relacionadas à saúde mental. Nos próximos 120 dias, novas ações devem ser anunciadas.
O uso do ChatGPT continua proibido para menores de 13 anos, mas a própria OpenAI reconhece que muitos adolescentes ainda utilizam a ferramenta.