O que os nudes falsos em Itararé ensinam sobre o aumento de casos de deepfakes pornográficos em escolas

Pelo menos 40 pessoas, entre elas, 36 menores de 18 anos, foram vítimas de montagens pornográficas na cidade do interior de São Paulo. Casos semelhantes ocorreram em Maceió, Salvador e Cuiabá. Estudantes têm usado ferramentas de inteligência artificial para criar falsos nudes de colegas e professores. Na imagem, uma mão segura um celular com tela branca. Freepik O uso de ferramentas de inteligência artificial, as famosas IAs, para a criação de montagens pornográficas de menores está se tornado cada vez mais comum, inclusive no ambiente escolar. Em caso recente, ocorrido em Itararé, no interior de São Paulo, dezenas de jovens e adolescentes tiveram seus rostos colocados em nudes digitais que passaram a ser compartilhados por estudantes de uma escola estadual por meio das redes sociais. O g1 apurou que 36 adolescentes de 13 a 17 anos, e outras quatro pessoas maiores de 18 anos (incluindo uma professora) foram vítimas das montagens. As investigações continuam e o número de vítimas ainda pode aumentar. Oito jovens, todos menores, estão sendo investigados por envolvimento na criação e compartilhamento das imagens. Casos parecidos foram registrados neste ano e no ano passado em Cuiabá, em Salvador, em Maceió e no Rio de Janeiro. Em todos os casos, os investigados por fazer e distribuir as montagens eram adolescentes que frequentavam a mesma escola que as vítimas. De acordo com o artigo 241-C do Estatuto da Criança e do Adolescente, é crime “simular a participação de criança ou adolescente em cena de sexo explícito ou pornográfica por meio de adulteração, montagem ou modificação de fotografia, vídeo ou qualquer outra forma de representação visual”. Este tipo de exposição pode causar às vítimas depressão, baixa autoestima, ansiedade, agressividade, medo e outros sentimentos negativos. Por isso, mesmo havendo previsão legal para o crime, muitos pais se preocupam e questionam sobre a maneira correta de proteger os filhos e evitar que sejam vítimas deste tipo de montagem. Abaixo, confira as principais informações sobre como agir em casos de deepfakes pornográficos, e saiba como proteger os adolescentes. Como as montagens são feitas De acordo com as mães de duas das vítimas das montagens de Itararé, que não quiseram se identificar para proteger a identidade das filhas, as montagens foram feitas a partir de fotos publicadas pelas menores nas redes sociais. As vítimas têm 13 e 15 anos. As imagens originais, que não expunham os corpos das adolescentes, foram baixadas das redes sociais e colocadas em um software de inteligência artificial que gera corpos a partir do rosto. O que diz a lei O ECA determina pena de um a três anos de reclusão, e multa, para quem cria, vende, expõe à venda, disponibiliza, distribui, publica ou divulga por qualquer meio, adquire, possui ou armazena montagens pornográficas de menores. A Constituição Federal diz que "são invioláveis a intimidade, a vida privada, a honra e a imagem das pessoas, assegurado o direito a indenização pelo dano material ou moral decorrente de sua violação". O Código Penal prevê a responsabilização para maiores de 18 anos por crimes contra a honra, incluindo calúnia, difamação e injúria. Danos morais e pornografia infantil também são crimes previstos e aplicáveis para casos como estes. Se os responsáveis forem menores de idade, eles não podem responder criminalmente, mas podem sofrer medidas socioeducativas. Neste caso, a pena pode variar de advertência à internação em estabelecimento educacional, o que seria uma versão para menores da reclusão aplicada a adultos. A pena pode variar de caso a caso e deve ser estabelecida em juízo. Para isso, os responsáveis pelas vítimas ou representantes da escola (caso haja envolvimento direto — entenda mais abaixo) devem registrar o boletim de ocorrência na delegacia ou fazer uma denúncia no Ministério Público. Além disso, segundo o advogado especializado em direito educacional Fabiano Ferreira, os pais dos infratores menores de idade também podem ser responsabilizados legalmente pela ação dos filhos. “A família pode pleitear reparação por danos morais sofridos pela vítima. A depender do caso, a ação pode ser movida contra o Estado e, eventualmente, contra o gestor da escola que não tenha promovido os devidos encaminhamentos legais, e contra os responsáveis pelas montagens, representados pelos pais caso sejam menores de idade”, explica o especialista. Papel da escola E qual a responsabilidade da escola em casos de montagens pornográficas de menores que ocorram nas suas dependências? Segundo especialistas, a instituição pode ter tanto um envolvimento direto, cabendo responsabilização legal, quanto ter um envolvimento indireto. O envolvimento direto acontece quando a manipulação das imagens acontece dentro das dependências da escola e/ou com utilização de equipamentos escolares. O envolvimento indireto acontece quando a escola não é um fator decisivo para a produção e/ou distribuição das imagens. Fachada da Escola Estadual Dr. Epaminondas Ferreira Lobo, em Itararé (SP), onde ocorreu caso de deepfake pornográfico. Reprodução/Google Street View Segundo Ana Paula Siqueira, advogada, doutoranda em cyberbullying e presidente da Associação SOS Bullying, em ambos os casos, é de responsabilidade da escola: Assegurar um ambiente escolar seguro e acolhedor, livre de agressões físicas, psicológicas ou virtuais, como a criação e disseminação de montagens. Incluir toda a comunidade escolar na solução do problema, envolvendo pais, alunos, professores e funcionários para uma resposta coordenada. Apurar os fatos de maneira cuidadosa e documentada, preservando provas e estabelecendo a responsabilidade dos envolvidos - medidas de compliance escolar documentadas Oferecer suporte jurídico, social e pedagógico tanto para a vítima quanto para os envolvidos na criação ou distribuição das montagens. Isso inclui orientação jurídica sobre os direitos e responsabilidades, assistência social para apoiar emocionalmente a vítima e suas famílias, além de suporte pedagógico para a reintegração e aprendizado. Aplicar sanções disciplinares adequadas de acordo com o regimento interno da escola, que podem variar desde advertências até a suspensão ou expulsão dos responsáveis. Garantir acompanhamento psicológico à vítima para lidar com o impacto emocional da agressão, promovendo a recuperação e o bem-estar no ambiente escolar. Caso haja envolvimento direto da instituição de ensino, também é dever da gestão escolar informar as autoridades policiais e tutelares, e os pais e responsáveis dos envolvidos, sobre o caso. Papel dos pais das vítimas Os pais e responsáveis de vítimas menores de idade devem agir rapidamente para proteger os filhos, e buscar responsabilização dos envolvidos, segundo Ana Paula Siqueira. As recomendações são: Registrar um boletim de ocorrência: Diante de qualquer agressão virtual, os pais devem ir a uma delegacia, preferencialmente especializada em crimes cibernéticos ou contra crianças e adolescentes, para formalizar a denúncia. Procurar suporte jurídico: Consultar um advogado especializado em direito digital, bullying e crimes contra menores é essencial para buscar medidas legais contra os responsáveis, seja por danos morais ou difamação, e para assegurar que os envolvidos respondam judicialmente. Procurar apoio psicológico para a vítima: É crucial que a criança ou adolescente tenha acompanhamento psicológico para enfrentar os impactos emocionais do bullying, minimizando os danos e auxiliando na recuperação da autoestima e bem-estar. Monitorar a resposta da escola e as ações judiciais: Os pais devem acompanhar de perto tanto a resposta da escola quanto os desdobramentos das ações judiciais, garantindo que todas as medidas necessárias sejam tomadas para proteger a criança e punir os responsáveis. Papel dos pais dos responsáveis Os pais ou responsáveis legais dos menores que se envolvem em atos de criação ou distribuição de montagens pornográficas ou qualquer tipo de bullying digital devem agir de forma rápida e responsável para minimizar as consequências jurídicas e sociais. Entre as medidas que devem ser tomadas por eles, estão: 1. Assumir a responsabilidade e procurar orientação jurídica "Os pais precisam entender que são civil e criminalmente responsáveis pelos atos de seus filhos menores de idade, conforme o artigo 932 do Código Civil, que estipula que os responsáveis devem responder pelos atos ilícitos praticados por seus filhos. A primeira medida é buscar orientação jurídica com um advogado especializado em direito digital ou crimes contra menores, para entender as implicações legais do caso e como proceder adequadamente. Isso é especialmente importante, pois os atos podem configurar infrações graves, como difamação e crimes de pornografia infantil, conforme o Estatuto da Criança e do Adolescente (ECA)." 2. Colaborar com as investigações "Os pais devem colaborar com a escola e com as autoridades na apuração dos fatos. Isso envolve fornecer as informações necessárias para a investigação, permitindo o acesso ao celular ou ao dispositivo eletrônico do menor, para que se verifique a origem das montagens ou conteúdo disseminado. A colaboração pode ser um fator positivo na avaliação do comportamento dos pais e dos menores envolvidos." 3. Supervisionar e controlar o uso de dispositivos eletrônicos "Os pais devem adotar medidas mais rígidas de supervisão e controle sobre o uso de celulares e dispositivos eletrônicos pelos filhos. De acordo com o artigo 241-B do ECA, o armazenamento de conteúdo pornográfico envolvendo crianças e adolescentes é crime, e os pais podem ser responsabilizados criminalmente se forem negligentes ao monitorar o que está sendo armazenado ou compartilhado pelos filhos. Se houver conteúdo ilícito no dispositivo de um menor, os responsáveis pela linha telefônica ou pelo equipamento podem ser incriminados." 4. Oferecer suporte psicológico ao menor "É essencial que os pais ofereçam suporte psicológico ao menor, tanto para lidar com o impacto emocional que possa resultar de sua participação nos atos quanto para conscientizá-lo sobre as consequências de seus comportamentos. Isso ajuda na reeducação e na prevenção de futuros incidentes." 5. Buscar reparação de danos e promover o diálogo "Além de lidar com as responsabilidades legais, os pais devem promover o diálogo com a família da vítima, buscando formas de reparar os danos causados. A promoção de um acordo pode, em muitos casos, ajudar a reduzir o impacto emocional e evitar que a situação se agrave judicialmente." A relação entre bullying e suicídio Como proteger a privacidade do menor na internet Atualmente, redes sociais como Instagram, Facebook e TikTok permitem a criação de contas para usuários a partir dos 13 anos de idade. O Instagram, uma das plataformas mais populares entre os adolescentes, disponibiliza uma série de configurações que podem ser ativadas pelos pais para um maior controle na conta dos jovens, e promete que, a partir de 2025, os pais terão um controle maior em contas de usuários de até 16 anos. Por enquanto, já existem algumas medidas que podem ser tomadas para limitar a exposição da imagem de crianças e adolescentes nas redes sociais, e controlar quem tem acesso às publicações. O Centro de Estudos, Resposta e Tratamento de Incidentes de Segurança no Brasil (CERT.br) tem uma cartilha com dicas para proteger a privacidade na internet. As principais recomendações são: ???? Ajuste as configurações de segurança e privacidade: redes sociais costumam ter recursos para controlar quem poderá ver as postagens da conta; ???? Controle quem poderá seguir a conta: para evitar uma exposição muito grande do que é compartilhado, verifique a identidade da pessoa que pediu para seguir a conta e evite aceitar desconhecidos; ????️ Cuidado também fora das redes: apague fotos e vídeos particulares caso seu celular seja usado por terceiros ou proteja os arquivos em pastas com senha. ???? Respeite o espaço alheio: evite gravar vídeos que possam expor terceiros e peça autorização para postar imagens em que outras pessoas apareçam. Além disso, é importante que os pais estejam atentos à relação dos jovens com as plataformas digitais, sejam ativos no processo de educação sobre o que podem ou não fazer nestes ambientes, e estimulem o pensamento crítico sobre da proteção da própria imagem e do respeito à imagem do próximo. O que diz o MEC Procurado, o Ministério da Educação (MEC) declarou que "vem trabalhando e promovendo ações voltadas ao enfrentamento de violências" como a criação de deepfakes pornográficas em ambiente escolar. A pasta também listou uma série de ações que adotou para este fim. Dentre elas: Estratégia Nacional de Escolas Conectadas, que, além de contribuir para a inclusão digital de estudantes de todo o país, tem como objetivo garantir um ambiente mais seguro nas escolas, e promover uma educação digital voltada à cidadania digital; Publicação de recomendações para as secretarias de educação e escolas, sobre a aplicação de filtros de segurança de rede como parte importante de soluções Wi-Fi nas escolas; Apoio à formação específica de professores, por meio da publicação Referencial de Saberes Digitais Docentes, que orienta, entre outras coisas, sobre cidadania digital para o uso responsável, seguro e crítico das tecnologias digitais; Orientação em favor da implementação da educação digital nas escolas, como competência da Base Nacional Comum Curricular (BNCC), para “Compreender, utilizar e criar tecnologias digitais de informação e comunicação de forma crítica, significativa, reflexiva e ética nas diversas práticas sociais (incluindo as escolares). VÍDEOS DE EDUCAÇÃO