Com apoio da Embrapii, aplicativo é desenvolvido para monitoramento e segurança on-line de crianças e adolescentes

Um aplicativo desenvolvido em parceria com a Unidade Embrapii Instituto de Ciências Matemáticas e de Computação (ICMC), da Universidade de São Paulo (USP), tem o objetivo de auxiliar pais na supervisão da atividade digital de seus filhos para promover uma mediação parental mais eficaz. Por meio de Inteligência Artificial, a ferramenta coleta e processa dados dos celulares de crianças e adolescentes. Ao detectar conteúdo suspeito, notifica os responsáveis sobre o tipo de conteúdo acessado ou o comportamento perigoso em curso.

O mecanismo captura absolutamente toda a interação que o usuário faz no celular. “Cada mensagem que ele envia, tudo que ele recebe, os sites que está acessando, e os jogos. Essas informações geram uma base de dados que é processada por um modelo de IA para identificar comportamento de risco”, conta o pesquisador da Unidade Embrapii ICMC, Luis Gustavo Nonato.

O foco é a prevenção. Caso o usuário combine algo que represente risco a ele ou a terceiros, será detectado. Os alertas envolvem o consumo de conteúdo violento, pornografia, ou até mesmo intenção de fuga. “A Inteligência Artificial vai emitir o alerta para os responsáveis quando o usuário fizer pesquisas sobre passagens de ônibus para outras cidades”, exemplifica o fundador da startup Infantia, Ricardo Busato. Desde o final de 2025, o aplicativo está em teste com usuários reais para preparar a tecnologia e lançá-la no mercado ainda no primeiro semestre deste ano.

Inteligência Artificial e base de dados

Inicialmente, um grupo de psicólogos levantou quais seriam as possíveis situações de risco envolvendo crianças e adolescentes. O modelo de linguagem em IA foi alimentado com esses exemplos para gerar uma classificação das informações que estavam na base de dados formulada por esses profissionais.

Em seguida, foi realizado o refinamento dessas situações de risco, o que gerou classificações de comportamentos inapropriados, indícios de bullying, sofrimento e fuga para alertar pais e responsáveis.

O pesquisador aponta que o maior desafio é o vocabulário dos jovens. “Quando digitam textos no WhatsApp, nas redes sociais ou em jogos, eles têm uma linguagem própria. Isso dificulta, pois o modelo de linguagem não está treinado para isso. Temos de superar esta situação e contextualizar a mensagem, já que a IA não entende ironia”, exemplifica. O modelo será reavaliado e adaptado de forma contínua sempre que surgirem novos símbolos (emojis) e expressões nas interações.

Sobre a coleta de dados, Nonato garante total privacidade. “Quando os dados vão para a IA, temos uma etapa de anonimização, que impede a identificação dos usuários e a relação dos dados com eles. Há também um estágio de confiabilidade que impede o uso dos dados para outros fins que não os do aplicativo”, assegura.

O pesquisador avalia que a ferramenta é inovadora em relação a outras soluções disponíveis no mercado. “Há diversos aplicativos de bloqueio de conteúdo, mas eles não analisam se a criança está em situação de risco, não há monitoramento da interação dela com outros usuários nas redes sociais e jogos”, afirma.

A fase de pesquisa, o desenvolvimento da solução e os testes com usuários reais ocorreram em um período de apenas cinco meses. De acordo com o fundador da startup, o modelo de negócios da Embrapii e a expertise da Unidade foram fundamentais para essa agilidade. “A Embrapii acelerou em anos o projeto da Infantia. Estávamos estudando as opções para contratação de pesquisador em IA, conversando com algumas universidades quando encontramos a Embrapii. Fizemos um primeiro contato, que evoluiu para reunião, escrita de projeto, aprovação e agora estamos na execução. Não conseguiríamos ter uma equipe tão completa e qualificada na pesquisa de IA para nosso projeto se não fosse a Embrapii”, avalia Busato.

O projeto também teve apoio do Serviço Brasileiro de Apoio às Micro e Pequenas Empresas (Sebrae), por se tratar de uma startup.

Infantia

O projeto Infantia atua em três diferentes linhas: o portal, que divulga a temática de proteção de crianças e adolescentes em ambiente digital; um curso para pais e responsáveis orienta a lidar com os desafios da presença dos filhos na internet; e o aplicativo, que detecta conteúdos suspeitos e notifica os responsáveis. A formação oferecida aos tutores mescla psicologia e tecnologia, além de ensinar a configurar jogos com mais segurança e como instalar bloqueadores de conteúdo.