Crianças e família na era da IA

Nesta aula

As crianças já usam IA. A pergunta não é se, é como, e se a porta para contar está aberta.

Esta é a aula que mais me pediram. Tenho uma posição simples: a IA vai fazer parte da vida das crianças de hoje como a internet fez parte da nossa, e proibir não funciona por muito tempo. O que funciona é o mesmo que sempre funcionou com qualquer coisa nova: conversar, combinar limites, ficar atento aos sinais e garantir que a criança saiba que pode contar sem se meter em apuros. Vou tratar de quatro temas com calma: conversas com IA, imagens, limites e sinais de alerta. No fim, você monta um acordo de família em cinco regras.

• Ao final, você vai entender como crianças e adolescentes usam IA hoje e onde estão os riscos reais, sem alarmismo.
• Vai reconhecer os sinais de alerta e saber o que fazer, e o que não fazer, quando algo aparece.
• Vai sair com um entregável: um acordo de família em cinco regras, escrito junto com as crianças.

Conversas com IA: o amigo que sempre concorda

Crianças e adolescentes usam assistentes de IA para dever de casa, para tirar dúvidas que têm vergonha de perguntar e, cada vez mais, para conversar. Existem aplicativos feitos para isso: "companheiros" de IA com nome, personalidade e disponibilidade infinita. Não é um vilão por si só. Mas tem uma característica que os adultos precisam entender: a IA companheira tende a concordar, elogiar e nunca cansar. Para um adolescente inseguro, isso pode ser mais confortável do que qualquer amizade real, e aí mora o risco: isolamento, dependência emocional e, em alguns casos, conselhos ruins sobre assuntos sérios.

O que fazer

• Pergunte com curiosidade, não com interrogatório. "Que IA você usa? O que ela faz de legal? Já te respondeu alguma coisa estranha?" A criança que é ouvida conta mais.
• Explique o mecanismo em uma frase. "Ela é feita para te agradar, não para te conhecer. Por isso sempre concorda." Crianças entendem isso muito bem.
• Combine limites de tempo e de assunto. Assuntos de saúde, de dinheiro e de segurança se conversam com adulto de verdade, não só com a IA.
• Confira a idade mínima. A maioria das ferramentas exige uma idade mínima nos termos de uso e algumas têm versão ou controle para menores. Veja a página oficial de cada uma.

Imagens: as que a família publica e as que a IA gera

Aqui há dois lados, e os dois mudaram.

O que a família publica

Fotos e vídeos das crianças em perfis abertos viraram matéria-prima. Com poucas fotos, é possível gerar imagens falsas; com poucos segundos de vídeo, é possível clonar a voz (aula 1). O golpe do "filho em apuros" usa exatamente isso. Não estou dizendo para apagar tudo em pânico. Estou dizendo para decidir com consciência: perfil fechado para quem posta muito, cuidado redobrado com vídeos em que a criança fala, nada de uniforme com o nome da escola, e sem publicar rotina (horário, lugar) em tempo real.

O que a IA gera

O risco mais grave desta aula é este, e eu vou tratá-lo com o cuidado que merece. Ferramentas de IA podem gerar imagens falsas de pessoas reais, inclusive constrangedoras ou sexualizadas. Isso tem acontecido entre adolescentes, com colegas de escola como alvo. É crime, causa dano real e a vítima costuma sentir que a culpa é dela. Não é.

O que a família precisa saber, do ponto de vista de quem protege:

1. Nunca compartilhar. Encaminhar a imagem "para alertar" amplia o dano e pode ser crime, mesmo com boa intenção.
2. Guardar a evidência sem repassar. Print da conversa onde a imagem chegou, com data, hora e quem enviou, guardado no aparelho do adulto. Não se manda para grupos.
3. Acolher primeiro. Se a vítima é da sua casa, a primeira frase é "a culpa não é sua e a gente vai resolver". Se é uma colega, avisar os responsáveis dela com discrição.
4. Acionar a escola e os canais oficiais. A escola precisa saber. Há canais oficiais de denúncia de crimes contra crianças na internet, como o Disque 100 e a SaferNet; confira o caminho atual no site de cada um. Em casos graves, boletim de ocorrência.
5. Não confrontar por conta própria. Ir tirar satisfação com quem fez, ou com a família dele, costuma piorar e atrapalhar a apuração.

Limites que funcionam (e os que não funcionam)

A regra do dever de casa

Merece parágrafo próprio, porque é o uso mais comum. A IA pode explicar, dar exemplo, corrigir e conversar sobre a matéria. O que ela não deveria fazer é o trabalho inteiro, porque aí a criança entrega uma coisa que não sabe. Uma combinação simples: "a IA explica, você escreve". E, para os adultos, uma pergunta de vez em quando: "me explica o que você entendeu?". Se a criança explica, aprendeu, com ou sem IA.

Sinais de alerta e a porta aberta

Nenhum sinal sozinho significa problema. O conjunto e a mudança repentina, sim. Fique atento a:

• Mudança brusca de humor depois de usar o celular; esconder a tela ao ver adulto; irritação fora do comum ao ser interrompido.
• Isolamento das amizades reais em favor de "conversas" online que a criança não explica.
• Referência a um "amigo" ou "namorado" que só existe no celular e que ninguém da família conhece.
• Pedidos de dinheiro, cartão dos pais ou "código que chegou por engano" (a aula 1 explica: criança também é alvo de golpe, e também é usada como porta para os pais).
• Medo, choro ou pânico ligado a uma imagem ou mensagem que a criança não quer mostrar.

O que segura tudo isso é uma frase, combinada antes que qualquer coisa aconteça: "Se algo te assustar na internet, me conta. Você não vai estar em apuros por contar." A criança precisa acreditar nisso, e só acredita se, na primeira vez que contar algo pequeno, a reação for calma. Treine a calma nas coisas pequenas para ter a confiança nas grandes.

Se quiser ajuda para escrever o acordo com linguagem da idade da sua casa, este pedido funciona bem, e repare que não entra nenhum dado da criança: