Homem que criou e vendeu deepfakes pornográficas de crianças pega 18 anos de prisão no Reino Unido

Decisão foi considerada um marco histórico por autoridades locais; entenda o que é deepfake e veja dicas para identificar a prática. Hugh Nelson foi condenado a 18 anos de prisão por usar inteligência artificial apra criar imagens pornográficas de crianças.
Divulgação/Serviço de Promotoria da Coroa do Reino Unido
Hugh Nelson, um homem de 27 anos, foi condenado a 18 anos de prisão no Reino Unido por usar inteligência artificial (IA) para criar imagens pornográficas de crianças e vendê-las em grupos de bate-papo na internet.
A decisão foi divulgada nesta segunda-feira (27) pela Promotoria da Coroa do Reino Unido (CPS, na sigla em inglês) e foi considerada histórica por autoridades inglesas.
Segundo Jeanette Smith, promotora especialista da Unidade de Abuso Sexual Infantil Organizado do CPS, a decisão mostra que a lei se aplica tanto a fotografias reais quanto às geradas por IA.
Nelson, estudante de design gráfico, admitiu à polícia que, ao longo de 18 meses, ganhou 5.000 libras (equivalente a cerca de R$ 37 mil na cotação do dia 28 de outubro) com a venda on-line de imagens adulteradas de crianças de cunho sexual.
Ele se declarou culpado de 16 crimes de abuso sexual infantil, incluindo o incentivou ao estupro de crianças em salas de conversação na internet.
Um marco para as próximas decisões
Jen Tattersall, chefe da equipe de investigação de abuso infantil on-line da polícia de Manchester (cidade na Inglaterra), afirma que esse caso é emblemático e mostra a importância dos investigadores se adaptarem aos novos tipos de crimes praticados pela internet.
“Nelson é um homem extremamente perigoso que pensou que poderia escapar do que estava fazendo usando tecnologia moderna. Ele estava errado e agora sentiu toda a força da lei por suas ações”, disse Tattersall em comunicado divulgado pela CPS.
Já Carly Baines, detetive da polícia de Manchester, destaca que esse é um dos primeiros casos nesse âmbito e representa um “marco” para as próximas decisões.
“Embora as imagens criadas e distribuídas neste caso tenham sido geradas por computador e não sejam imagens de abuso infantil no sentido tradicional, comportamentos dessa natureza não serão tolerados”, disse Baines.
➡️ Mas o que deepfake significa?
O que é deepfake e como ele é usado para distorcer realidade
Deepfake é uma técnica que permite alterar um vídeo ou foto com ajuda de inteligência artificial (IA). Por meio dessa prática, por exemplo, é possível trocar o rosto de uma pessoa que está em vídeo pelo de outra ou mudar o que ela está falando.
O material falso é criado a partir de conteúdos verdadeiros que são modificados por meio de aplicativos ou programas de edição que já existem no mercado.
Um dos usos mais preocupantes dessas ferramentas é justamente a criação de vídeos pornográficos com o rosto de outras pessoas. Em 2020, um relatório da empresa Sensity indicou que nudes falsos de mais de 100 mil mulheres estavam sendo compartilhados na internet.
👀​ É possível reconhecer um deepfake?
Embora seja desafiador, existem algumas pistas que podem ajudar a identificar uma deepfake, segundo o especialista em IA Tiago Almeida informou em uma entrevista em abril ao g1.
Confira:
Procure por inconsistências no vídeo ou na imagem, como movimentos não naturais, piscadas estranhas ou expressões faciais desalinhadas. “Métodos de criação de deepfake frequentemente têm dificuldades em criar detalhes como movimentos dos olhos, sincronização labial ou como a luz e as sombras são representadas no rosto”, explica;
Caso a suspeita caia sobre um vídeo, o usuário pode prestar atenção no áudio, pois as vozes podem, muitas vezes, soarem robóticas ou com entonações que não são naturais;
Use softwares projetados para detectar deepfakes, pois eles analisam as “impressões digitais” deixadas pelo conteúdo manipulado;
Verifique as informações com fontes confiáveis caso algo pareça muito chocante ou incomum.
Veja mais:
Pornografia deepfake se espalha por escolas da Coreia do Sul e vítimas são jovens estudantes
Como inteligência artificial criou ‘nudes’ falsos de mais de 100 mil mulheres compartilhados em redes
Deepfake: Sete adolescentes são responsabilizados por manipulação de imagens em Maceió
‘Deepfake ao vivo’: tecnologia que muda rosto e voz em videochamada já existe na vida real
Golpistas recorrem ao “deepfake” pra enganar quem usa a internet e as redes socais