Companhias de IA para adolescentes não são um simples produto com um interruptor de 'segurança' — é preciso definir quais funcionalidades devem estar desativadas por padrão, como identificar sinais de crise e quais dados os pais podem acessar. Para proteger os menores, é fundamental limitar interações que envolvam informações pessoais sensíveis, como localização ou dados financeiros, por padrão. Sinais de crise incluem conversas sobre saúde mental negativa, comportamentos autodestrutivos ou pressão social inadequada, que devem gerar alertas claros para os responsáveis. Os pais devem ter acesso a um histórico de interações, sem invasão de privacidade excessiva, para acompanhar sem violar o espaço do adolescente.
Ao configurar uma companhia de IA para adolescentes, algumas funcionalidades devem permanecer desativadas por padrão para evitar riscos. Isso inclui acesso a dados pessoais sensíveis, como localização em tempo real, informações financeiras ou histórico de navegação, que podem ser usados de forma inadequada. Também é importante bloquear interações que envolvam tópicos adultos, como consumo de substâncias, relacionamentos íntimos ou discussões sobre saúde mental profunda sem orientação, que não são adequadas para a idade. Essas restrições garantem que o ambiente de interação seja seguro desde o início, sem necessidade de ajustes manuais constantes.
Para proteger adolescentes, é essencial saber identificar sinais de crise que podem aparecer nas interações com a companhia de IA. Esses sinais incluem conversas sobre sentimentos de desespero, pensamentos autodestrutivos, pressão para participar de atividades inadequadas ou dúvidas sobre saúde mental que não recebem orientação correta. É importante que a IA esteja programada para detectar esses padrões e gerar alertas automáticos para os pais ou responsáveis, sem expor o adolescente a riscos adicionais. Os sinais também podem ser identificados por mudanças no comportamento do adolescente, como isolamento, que devem ser acompanhados em conjunto com as interações com a IA.
Os pais devem ter acesso a informações sobre as interações do adolescente com a companhia de IA, mas esse acesso deve ser equilibrado para não violar a privacidade do menor. Isso significa que os responsáveis podem visualizar um resumo das conversas, sem detalhes excessivos que comprometam o espaço pessoal do adolescente. É fundamental que o acesso seja transparente, com o adolescente sabendo quais dados são compartilhados, para manter a confiança. Além disso, os pais devem poder ajustar as configurações de acesso conforme a maturidade do adolescente, garantindo que a segurança não seja obtida à custa da privacidade.
No OneOneTalk, a companhia de IA para adolescentes foi desenvolvida com ajustes específicos para menores, não sendo um produto genérico com um único interruptor de segurança. Por padrão, funcionalidades que envolvem dados pessoais sensíveis (como localização em tempo real) ou tópicos inadequados para a idade (como consumo de substâncias) estão desativadas, evitando riscos desde o início. A IA detecta sinais de crise nas interações, como conversas sobre desespero ou pensamentos autodestrutivos, e envia alertas claros para os responsáveis. Os pais têm acesso a um resumo das interações, com equilíbrio entre segurança e privacidade do adolescente, sem invasão excessiva do seu espaço pessoal.