Foto de criança em app de inteligência artificial: o que acontece com a imagem
Filtro de IA, retrato gerado, o brinquedo de ver como ele vai ser aos 20. Entenda o que acontece com a foto de criança em app de inteligência artificial.
Equipe Memmora·
·
8 min de leitura
Foto de criança em app de inteligência artificial é qualquer imagem do seu filho que sai do celular e entra num serviço que gera, edita ou analisa imagem: o filtro que transforma a foto em desenho animado, o retrato "como ele vai ser aos 20 anos", o app que monta o álbum estilizado, o assistente de conversa a quem você pergunta "olha essa foto". Todos parecem inofensivos, porque o resultado volta em segundos e é divertido. O que não aparece na tela é o percurso da imagem original, e é dele que este texto trata.
Para onde vai a foto depois que você aperta enviar?
A resposta curta: para fora do seu aparelho, para pelo menos três destinos possíveis, e sem volta.
Não é especulação: está escrito nas próprias políticas. Na central de ajuda do app Gemini, o Google informa que conversas, arquivos e fotos são usados para fornecer, desenvolver e melhorar os serviços, inclusive no treinamento de modelos generativos, quando a configuração Manter Atividade está ligada. Informa também que uma parte das conversas passa por revisores humanos e que, quando isso acontece, o material fica retido por até três anos, desconectado da conta, e não é apagado quando você apaga sua atividade.
Na OpenAI o desenho é parecido: o conteúdo de contas de consumidor pode ser usado para melhorar os modelos por padrão, e existe uma chave em Configurações, Controles de dados, para desligar isso, como descrito na central de ajuda sobre uso de dados para melhorar os modelos.
Nenhuma das duas empresas está escondendo alguma coisa. O problema é que a decisão sobre o rosto de uma criança está sendo tomada por um adulto apressado, num botão de ativar por padrão, num momento de brincadeira.
Quais tipos de app fazem o quê?
Nem todo uso de IA em foto tem o mesmo risco. Vale separar.
| Tipo de app | O que costuma acontecer com a imagem | Risco para foto de criança |
|---|---|---|
| Filtro dentro da galeria do celular | Processamento local no aparelho, sem envio, na maior parte dos casos | Baixo. Confirme se existe backup automático em nuvem |
| Assistente de conversa (Gemini, ChatGPT) | Envio para servidor, retenção por prazo próprio, revisão humana por amostra, treino conforme a configuração | Alto. A foto sai do aparelho e não volta |
| Gerador de retrato ou avatar estilizado | Upload de várias fotos do mesmo rosto, às vezes para treinar um modelo dedicado | Muito alto. É o pior caso: rosto identificável e repetido |
| Brincadeira de "como ele vai ser aos 20" | Upload em site ou app pequeno, com política de dados curta ou inexistente | Muito alto. Empresa pequena tem menos controle e vida curta |
| App de organizar álbum com reconhecimento facial | Agrupamento por rosto, que pode ser local ou em servidor | Médio. Depende de onde o agrupamento é feito |
A regra prática cabe numa frase: quanto mais o app depende do rosto para funcionar, mais ele precisa do rosto guardado.
Isso já deu problema de verdade no Brasil?
Deu, e com nome e sobrenome. Em junho de 2024, a Human Rights Watch publicou um levantamento mostrando que a LAION-5B, uma base de dados usada para treinar geradores de imagem populares, continha links para fotos identificáveis de crianças brasileiras. Foram encontradas 170 fotos de crianças de pelo menos dez estados, algumas com o nome da criança na legenda ou no próprio endereço do arquivo, e com informação sobre quando e onde a foto foi feita.
Dois detalhes desse levantamento explicam por que ele é maior do que parece:
- A organização analisou menos de 0,0001% dos 5,85 bilhões de imagens da base. O número encontrado é um recorte mínimo do que existe.
- Boa parte dessas fotos veio de cantos discretos da web, não de perfis públicos famosos. Blog de família, vídeo de apresentação escolar, site de fotógrafo. Lugares onde ninguém imagina que uma raspagem automática chegue.
Em setembro de 2024, depois do trabalho da organização, a LAION removeu as imagens de 720 crianças australianas e brasileiras da base. Isso é uma boa notícia e uma má notícia ao mesmo tempo: mostra que a remoção é possível, e mostra que ela só acontece quando alguém garimpa e denuncia, caso a caso.
Do lado da fiscalização, a Autoridade Nacional de Proteção de Dados determinou em julho de 2024 a suspensão cautelar do tratamento de dados pessoais para treinamento da IA do grupo Meta no Brasil, apontando entre os problemas o tratamento de dados de crianças e adolescentes sem salvaguardas adequadas. Em agosto do mesmo ano, a Meta cumpriu exigências e pôde retomar com restrições, entre elas não tratar dados de contas de crianças e adolescentes. Ou seja: a proteção existe, mas ela chegou depois de uma medida cautelar, e vale para as contas identificadas como de menores, não para a foto do seu filho publicada na conta de um adulto.
Por que o risco não é "alguém ver a foto"?
Porque não é. Ninguém está preocupado com um estranho achando fofa a foto do seu filho de um ano. O que muda o jogo é o rosto virar matéria-prima de geração de imagem.
A própria Human Rights Watch registrou o desfecho concreto disso: ferramentas treinadas com esse tipo de base foram usadas para gerar imagens sexualmente explícitas a partir de fotos comuns, e adolescentes brasileiras relataram assédio de colegas que produziram esse material. O ponto de partida não foi uma foto íntima. Foi uma foto qualquer, de rosto, disponível.
O Brasil respondeu a isso no plano penal. A Lei 15.487, publicada em 7 de agosto de 2026, aumentou a pena para produção e divulgação de material de violência sexual contra criança e adolescente, incluiu essas condutas no rol dos crimes hediondos e previu aumento de um terço a dois terços quando são usados recursos como inteligência artificial, deepfake, filtros e perfis falsos. É uma resposta necessária, e é também um recado sobre a natureza do problema: a lei chega depois. A única etapa em que a família tem controle é a de antes.
O que dá para fazer sem virar refém do medo
A ideia aqui não é jurar nunca mais usar IA. É aplicar a mesma lógica que a gente já aplica em como compartilhar fotos de criança com segurança: decidir por canal, e não por impulso.
- Não envie foto de rosto identificável de criança para gerador de imagem. Nem para brincadeira, nem para teste, nem "só uma vez".
- Se precisar usar IA numa imagem com criança, corte o rosto. Para pedir ajuda com enquadramento, cor ou legenda, a foto de costas ou o recorte do cenário resolvem.
- Desligue a contribuição para treino. No Gemini, desative Manter Atividade ou use Conversa Momentânea. No ChatGPT, desligue a opção de melhorar o modelo em Controles de dados. Faça isso nos aparelhos da casa toda, incluindo o da avó que adora testar filtro.
- Desconfie do app pequeno e da moda da semana. Aplicativo de retrato viral costuma pedir dez fotos do mesmo rosto e ter política de dados de três parágrafos. É o pior negócio possível.
- Confira o que está público hoje. Antes de se preocupar com o futuro, vale olhar o que já está indexado. Fizemos esse roteiro em rastro digital: o que a internet já sabe sobre o seu filho.
- Combine com a família. Adianta pouco você não enviar se a foto circula num grupo em que alguém vai testar o filtro da moda. Vale o mesmo combinado do sharenting.
E onde essas fotos deveriam morar?
Num lugar que não precise do rosto do seu filho para ganhar dinheiro. Essa é a pergunta que separa um serviço de memória de um serviço de plataforma: o que ele faz com a imagem quando você não está olhando.
É a razão de o Memmora ser fechado por padrão: a linha do tempo do seu filho fica visível só para quem você convida, sem feed público, sem indexação e sem alimentar recomendação de ninguém. A avó vê as fotos do mês, o padrinho comenta, e a imagem não vira insumo de nada. Guardar bem e expor pouco não são objetivos opostos, e é bom que a ferramenta ajude nos dois.
Resumo do que levar
- Enviar é irreversível: a foto sai do aparelho, pode passar por revisão humana e pode ficar retida por prazos próprios do serviço.
- Gerador de retrato e app viral de rosto são os piores casos, porque dependem de várias fotos do mesmo rosto.
- Desligar a contribuição para treino leva um minuto em cada app, e vale dali para a frente, nunca para trás.
- Perfil fechado não é contrato de não uso: já foram encontradas fotos de crianças brasileiras em base pública de treino.
- A lei brasileira endureceu em 2026, e isso confirma o diagnóstico: reduzir a circulação pública do rosto é a parte que está na sua mão.
Perguntas frequentes
Enviar a foto do meu filho para um app de IA é perigoso?
O risco não está no resultado bonitinho que aparece na tela, e sim no que fica no caminho. Ao enviar, a imagem sai do seu aparelho, passa por servidores, pode ser lida por revisor humano e, dependendo da configuração, pode alimentar treino de modelo. Nada disso é reversível depois. Por isso a recomendação prática é não enviar foto de criança identificável para gerador de imagem.
Se eu apagar a conversa, a foto some?
Nem sempre. Apagar a conversa remove o histórico visível para você, mas as políticas costumam prever prazos próprios de retenção e cópias enviadas para revisão humana. No Gemini, por exemplo, o Google informa que conversas revisadas por pessoas ficam guardadas por até três anos e não são apagadas junto com a sua atividade. Trate todo envio como definitivo.
Como desligar o uso das minhas fotos para treinar a IA?
No app Gemini, desative a configuração Manter Atividade, ou use uma Conversa Momentânea, que o Google informa não ser usada para treinar modelos. No ChatGPT, vá em Configurações, Controles de dados, e desligue a opção de melhorar o modelo para todos. As duas mudanças valem dali para a frente e não alcançam o que já foi enviado antes.
Filtro de IA da galeria do celular também é risco?
É um caso diferente e geralmente menor, porque o processamento pode acontecer no próprio aparelho. O ponto de virada é quando você tira a foto da galeria e envia para um app de conversa ou para um site gerador de imagem: ali ela passa a valer por outros termos. A pergunta útil é sempre a mesma: essa foto está saindo do meu aparelho?
As fotos que eu postei no perfil privado estão protegidas de treinamento de IA?
Perfil fechado reduz o público, mas não é garantia. Um levantamento da Human Rights Watch em 2024 encontrou fotos de crianças brasileiras em uma base usada para treinar geradores de imagem, incluindo imagens de origem pouco visível na web. Privacidade de rede social é uma configuração de exibição, não um contrato de não uso do conteúdo.
Existe crime envolvendo imagem de criança gerada por IA?
Sim. A Lei 15.487, em vigor desde 7 de agosto de 2026, aumentou penas para crimes sexuais digitais contra crianças e adolescentes, incluiu condutas no rol dos hediondos e previu aumento de pena quando há uso de recursos como inteligência artificial e deepfake. É a razão mais concreta para reduzir a circulação pública do rosto de uma criança.