Segurança Digital para Crianças: O Que o Mundo Está Fazendo e Como o Brasil Pode Aprender

Na última semana, o presidente espanhol Pedro Sánchez anunciou um pacote de medidas para conter abusos online e proteger menores de idade na internet. A Austrália, por sua vez, está revisando sua Lei de Segurança Online para fechar brechas que permitiam a circulação de imagens de nudez geradas por inteligência artificial. São movimentos que mostram uma coisa: o mundo acordou para o fato de que a internet, do jeito que está, não é lugar seguro para crianças.

E o Brasil? Bom, a gente precisa conversar sobre isso.

O que está acontecendo lá fora

Vamos começar pela Espanha. O governo espanhol decidiu atacar o problema de frente depois que casos de deepfakes envolvendo menores ganharam repercussão nacional. O plano inclui restrições de acesso a redes sociais para menores de 16 anos, obrigação de verificação de idade em plataformas digitais e penas mais severas para quem produzir ou compartilhar conteúdo abusivo gerado por IA.

Na Austrália, a situação ficou ainda mais tensa. Um chatbot ligado à plataforma X (antigo Twitter) foi flagrado gerando imagens de nudez sob demanda. A reação do governo foi rápida: ampliação da Lei de Segurança Online, com foco em responsabilizar as empresas de tecnologia pelos conteúdos gerados por suas ferramentas de inteligência artificial.

Nos Estados Unidos, o debate também esquentou. Reportagens do Wall Street Journal revelaram que até o Pentágono está usando ferramentas de IA generativa, levantando questões sobre os limites éticos dessas tecnologias. Se nem os governos conseguem definir onde traçar a linha, imagina o cidadão comum tentando proteger seus filhos.

O problema é maior do que parece

Quando falamos de segurança digital para crianças, muita gente pensa em filtros de conteúdo e controle parental. Isso ajuda, claro. Mas o cenário mudou. Com a popularização de ferramentas de IA generativa, qualquer pessoa com acesso à internet pode criar imagens realistas, vídeos falsos e até conversas simuladas envolvendo menores.

Um estudo recente da Internet Watch Foundation, organização britânica que combate abuso infantil online, mostrou que o volume de imagens geradas por IA envolvendo crianças cresceu mais de 400% entre 2024 e 2025. Não estamos falando de um problema distante. Estamos falando de algo que já chegou ao Brasil.

No ano passado, escolas brasileiras registraram casos de alunos usando aplicativos de IA para criar montagens com fotos de colegas. Em muitos casos, as vítimas eram meninas entre 12 e 15 anos. As famílias ficaram sem saber o que fazer. As escolas também.

O que o Brasil tem feito

O Marco Civil da Internet, de 2014, foi um avanço importante, mas nasceu numa época em que inteligência artificial generativa não existia como conhecemos hoje. O Estatuto da Criança e do Adolescente oferece proteção, mas a aplicação prática esbarra na velocidade com que a tecnologia evolui.

Em 2024, o Congresso brasileiro começou a discutir o Projeto de Lei 2338, que propõe regulamentar o uso de inteligência artificial no país. O texto inclui dispositivos sobre proteção de menores, mas ainda tramita sem previsão concreta de votação. Enquanto isso, as crianças brasileiras continuam expostas.

Alguns números ajudam a dimensionar o problema. Segundo a pesquisa TIC Kids Online Brasil, realizada pelo Cetic.br, 93% das crianças e adolescentes entre 9 e 17 anos são usuários de internet no país. Desses, 78% acessam redes sociais diariamente. E apenas 34% dos pais dizem ter algum tipo de controle sobre o que os filhos fazem online.

O que as famílias podem fazer agora

Esperar que a legislação resolva tudo não é realista. A tecnologia sempre vai andar mais rápido que a lei. Por isso, algumas atitudes práticas fazem diferença no dia a dia:

Conversar abertamente. Parece óbvio, mas não é. Muitos pais evitam falar sobre riscos digitais por não entenderem a tecnologia. Não precisa ser especialista. Basta perguntar: o que você faz na internet? Com quem conversa? O que te incomoda?

Conhecer as ferramentas. Aplicativos de controle parental evoluíram bastante. Google Family Link, Apple Screen Time e Qustodio são opções que permitem monitorar sem invadir a privacidade de forma abusiva. O equilíbrio é importante.

Ensinar pensamento crítico. Crianças que aprendem a questionar o que veem online são menos vulneráveis a manipulação. Mostrar como identificar deepfakes, notícias falsas e perfis fraudulentos é tão importante quanto ensinar a atravessar a rua.

Participar da vida digital dos filhos. Não basta proibir. Acompanhar, jogar junto, assistir aos mesmos vídeos. Quando os pais entendem o universo digital dos filhos, conseguem identificar problemas antes que se tornem graves.

O papel das empresas de tecnologia

Não dá para jogar toda a responsabilidade nas famílias. As empresas de tecnologia têm um papel central nessa história. E, até agora, a maioria tem falhado.

A verificação de idade nas plataformas é quase uma piada. Basta declarar ter mais de 13 anos para criar uma conta em praticamente qualquer rede social. Algoritmos continuam recomendando conteúdo inadequado para menores. E ferramentas de IA generativa estão disponíveis sem nenhum tipo de barreira.

A pressão regulatória que vemos na Europa e na Oceania pode forçar mudanças globais. Quando a Espanha ou a Austrália exigem verificação de idade real, as plataformas precisam desenvolver a tecnologia. E uma vez desenvolvida, fica mais difícil argumentar que não é possível aplicar no resto do mundo.

Para onde vamos

A proteção digital de crianças não é um tema de tecnologia. É um tema de sociedade. Envolve educação, legislação, responsabilidade corporativa e, acima de tudo, atenção das famílias.

O Brasil tem a oportunidade de aprender com o que está acontecendo em outros países. Não precisa reinventar a roda. Precisa agir. Aprovar legislação adequada, cobrar responsabilidade das plataformas e, principalmente, equipar pais e educadores com informação e ferramentas.

Porque no fim das contas, a pergunta não é se nossos filhos vão usar a internet. Eles já usam. A pergunta é se vamos deixar que usem sem proteção nenhuma, ou se vamos fazer alguma coisa a respeito.

E essa resposta não pode esperar mais.

JJ Andrade — Engenheiro de Produção, consultor de performance empresarial e autor da série Combining Lean Six Sigma and Queuing Theory. CEO da JJ Andrade LLC e fundador da WeCazza.