A OpenAI anunciou nesta quinta-feira (16) uma série de novos recursos de segurança para adolescentes que utilizam o ChatGPT. As medidas incluem controles parentais, lembretes para pausas durante o uso da plataforma e notificações aos responsáveis em situações consideradas de risco, como possíveis sinais de automutilação ou o bloqueio da conta por violações relacionadas a ameaças e atos de violência.
Segundo a empresa, o objetivo é promover uma experiência mais segura e equilibrada para o público jovem, preservando o acesso à inteligência artificial como ferramenta de aprendizado, criatividade, produtividade e desenvolvimento de habilidades.
Entre as novidades, pais e responsáveis poderão configurar horários de silêncio para o ChatGPT, desativar o modo de voz, restringir o acesso à geração de imagens e acompanhar determinados eventos relacionados à conta do adolescente. Também será possível receber alertas quando o sistema identificar indícios de comportamentos de risco ou quando a conta vinculada for desativada por descumprimento das políticas da plataforma envolvendo ameaças ou violência.
De acordo com a OpenAI, as notificações foram projetadas para preservar a privacidade dos adolescentes, fornecendo apenas informações suficientes para que os responsáveis possam iniciar uma conversa e, se necessário, buscar apoio especializado.
Outro recurso anunciado é o reforço dos lembretes de pausa para adolescentes que permanecerem conectados ao ChatGPT por períodos prolongados. A funcionalidade busca incentivar hábitos digitais mais saudáveis, estimulando momentos de descanso sem impedir o uso da inteligência artificial para estudos, pesquisas, resolução de problemas e outras atividades.
A empresa também divulgou dados sobre o comportamento dos usuários mais jovens. Segundo a OpenAI, quase nove em cada dez adolescentes que utilizam o ChatGPT recorrem à plataforma semanalmente para aprender novos conteúdos, pesquisar informações, desenvolver competências ou aumentar a produtividade.
Os novos mecanismos de proteção foram desenvolvidos em parceria com especialistas em segurança digital. Entre os colaboradores está a organização Moonshot, referência internacional na prevenção da violência online.
A fundadora e diretora-executiva da Moonshot, Vidhya Ramalingam, destacou que os responsáveis têm um papel essencial na proteção dos adolescentes no ambiente digital. Para ela, notificações em situações de maior gravidade podem contribuir para intervenções mais rápidas e facilitar o acesso ao suporte adequado.
A OpenAI afirmou que pretende ampliar gradualmente as ferramentas de proteção destinadas ao público adolescente, acompanhando o crescimento do uso da inteligência artificial entre jovens e famílias e buscando tornar a tecnologia cada vez mais segura e responsável.
