Startupi
Taylor Swift é vítima de imagens pornográficas geradas por IA; entenda o que é deepnudes
A cantora Taylor Swift foi mais uma vítima do deepnudes, imagens geradas por inteligência artificial que retratam alguém de forma explícita. As imagens mostram a cantora com os seios expostos, sendo apalpada por torcedores durante uma partida de futebol americano.
Os deepnudes são uma extensão do deepfake, expressão que se tornou conhecida com a popularização da IA, e representam a utilização de técnicas sofisticadas de IA para a criação de imagens e vídeos, muitas vezes de natureza pornográfica, que são falsos.
“Essa tecnologia se baseia na capacidade das redes neurais de manipular dados, incluindo informações provenientes das mídias sociais e outras fontes, para gerar conteúdo altamente realista. Em um cenário em que imagens originais de uma pessoa são utilizadas como base, os algoritmos e tecnologias atuais são capazes de criar um material tão convincente que engana facilmente os espectadores”, afirma Ahirton Lopes, Chief Data Officer da Lambda3.
Os deepnudes de Taylor Swift foram postados no X, antigo Twitter, e provocaram indignação entre os fãs da cantora, que subiram a hashtag “Proteja Taylor Swift” com vídeos de performances dela para as imagens falsas “desaparecerem” entre os posts de apoio. Uma só postagem, feita por um usuário verificado, conseguiu mais de 45 milhões de visualizações e 24 mil republicações em menos de 24 horas.
Origem dos deepnudes
O início desse fenômeno começou em 2019, quando um aplicativo chamado DeepNude ganhou notoriedade antes de ser removido devido às sérias questões éticas e legais que levantou. Inicialmente, a tecnologia estava nas mãos de poucas empresas, mas sua popularização cresceu rápido. O ponto de inflexão ocorreu em 2019, quando o app chamou a atenção do público.
A motivação por trás da criação de aplicativos e tecnologias que produzem DeepNudes varia amplamente. Segundo Ahirton, alguns indivíduos usam essas ferramentas de forma prejudicial, criando imagens pornográficas não consensuais de outras pessoas para difamá-las ou causar danos emocionais. Outros exploram essa tecnologia no entretenimento, gerando conteúdo envolvendo celebridades ou personagens fictícios.
De acordo com o relatório “Deepfakes vs Biometric KYC Verification” de 2022 da Sensity, empresa de segurança na internet, mais de 100 mil mulheres já tiveram seus rostos colocados em fotos sem roupa através de um robô digital em um chat do Telegram, essas imagens foram divulgadas em redes sociais e usadas sem consentimento. Não foi revelado o nome do canal no Telegram, para evitar maior adesão, mas a Sensity sublinha que basta fazer upload de apenas uma foto de mulher para que o software consiga produzir uma imagem que pareça real.
De acordo com o relatório, cerca de 70% das imagens utilizadas pertenciam a pessoas comuns e não a celebridades. Embora o DeepNude tenha sido removido em junho de 2019, o código-fonte permanece disponível em vários sites de torrent e repositórios de código aberto.
“Essa prática afeta diretamente aqueles que não têm conhecimento do que está acontecendo, e os impactos psicológicos são profundamente significativos. As vítimas de deepnudes experimentam angústia e trauma emocional, deixando cicatrizes que perduram por toda a vida, além de que ao passar por isso, muitas vezes elas não criam forças para recorrer e buscar pelos seus direitos”, reforça Ahirton Lopes.
Proteção das vítimas
Vale ressaltar que o conteúdo gerado por deep fakes é altamente replicável, tornando ainda mais desafiador o combate a sua disseminação. Em muitos casos, é extremamente difícil garantir que um conteúdo seja removido completamente, deixando as vítimas em um estado de constante preocupação com a possibilidade das imagens e vídeos ressurgirem.
Mas ainda sim existem tecnologias disponíveis que conseguem verificar se aquelas imagens divulgadas na internet são verdadeiras, sendo uma forma de rebater a pessoa que divulgou o deepnudes. Ahirton Lopes também enfatiza que é fundamental abrir um boletim de ocorrência, principalmente para que as autoridades tenham consentimento de que isso está acontecendo e tomem providências. “Muitas vezes, as pessoas podem acreditar que não serão tomadas medidas legais, mas, na realidade, as autoridades policiais possuem recursos e unidades especializadas dedicadas a investigar crimes cibernéticos, tornando isso uma questão de grande importância.”
Na internet, as pessoas também têm uma falsa sensação de segurança ao utilizar contas anônimas para disseminar deepnudes. No entanto, temos testemunhado a aplicação efetiva de leis contra a divulgação desse tipo de conteúdo, o que pode resultar na prisão de indivíduos envolvidos, independentemente de terem criado deep fakes ou apenas os compartilhado.
Segundo o JusBrasil, esse crime já possui previsão legal na legislação brasileira e se encaixa como registro não autorizado da intimidade sexual, nos conteúdos modificados no artigo 216-B do Código Penal, descrito no parágrafo único: “na mesma pena incorre quem realiza montagem em fotografia, vídeo, áudio ou qualquer outro registro com o fim de incluir pessoa em cena de nudez ou ato sexual ou libidinoso de caráter íntimo”, com pena de seis meses a um ano e multa.
Quando a vítima de deepnudes é mulher, o crime pode ser enquadrado na Lei Maria da Penha como violência psicológica, por ter provocado violação da intimidade da vítima. Além da investigação criminal, existem outras formas de buscar ajuda: se a foto foi encontrada nas redes sociais, como X, antigo Twitter, Instagram ou Facebook, a publicação pode ser denunciada às empresas, para que o autor da imagem seja punido. Segundo o JusBrasil, A SaferNet recebe denúncias, se houver link da imagem e tem um canal de apoio para quem sofre com crimes praticados na internet, com orientação e indicação de especialistas para cada caso.
O especialista Ahirton Lopes também cita que as empresas de tecnologia tem um papel crucial na prevenção da disseminação de DeepNudes. Elas podem investir em mecanismos de filtragem, detecção de deepfakes e desenvolvimento responsável de IA para evitar que essa tecnologia seja usada de maneira prejudicial.
Acesse aqui e saiba como você e o Startupi podem se tornar parceiros para impulsionar seus esforços de comunicação. Startupi – Jornalismo para quem lidera a inovação
O post Taylor Swift é vítima de imagens pornográficas geradas por IA; entenda o que é deepnudes aparece primeiro em Startupi e foi escrito por Bruna Galati
Continue Lendo: Startupi / https://startupi.com.br/taylor-swift-e-vitima-de-deepnudes/
Comentários
Postar um comentário