Imagens pornográficas deepfake de Taylor Swift circulam na internet
NOVA IORQUE – Estão circulando online imagens pornográficas deepfake de Taylor Swift, tornando a cantora a vítima mais notória desta prática, um flagelo com o qual plataformas tecnológicas e grupos anti-abuso têm lutado para combater.
Aumento na circulação de imagens falsas e abusivas de Swift
Imagens sexualmente explícitas e abusivas falsamente atribuídas a Swift começaram a circular amplamente esta semana na plataforma de mídia social X.
Base de fãs de Swift se mobiliza contra a propagação de deepfakes
A dedicada base de fãs de Swift, os chamados “Swifties”, mobilizou-se rapidamente, lançando uma contraofensiva na plataforma anteriormente conhecida como Twitter, e a hashtag #ProtectTaylorSwift para inundar a rede com imagens mais positivas da estrela pop. Alguns relataram estar denunciando contas que compartilhavam as deepfakes.
Grupo especializado em detecção de deepfakes rastreia material pornográfico não consensual
O grupo Reality Defender, especializado em detectar deepfakes, afirmou ter rastreado um grande número de material pornográfico não consensual representando Swift, particularmente na plataforma X. Algumas imagens também chegaram ao Facebook da Meta e outras plataformas de mídia social.
Material se espalha rapidamente antes de ser removido
“Infelizmente, o conteúdo se espalhou para milhões e milhões de usuários até que algumas das imagens fossem removidas”, explicou Mason Allen, chefe de crescimento do Reality Defender.
Pesquisadores identificam dúzias de imagens AI-geradas de Swift
Os pesquisadores descobriram pelo menos algumas dúzias de imagens únicas geradas por inteligência artificial. As mais compartilhadas relacionavam-se com futebol, exibindo uma Swift pintada ou ensanguentada, o que a objetificava e, em alguns casos, causava danos violentos à sua persona em deepfake.
Crescimento no número de deepfakes explícitos e avanços na tecnologia facilitam a produção
Pesquisadores assinalaram o aumento no número de deepfakes explícitos nos últimos anos, já que a tecnologia para produzir tais imagens tornou-se mais acessível e fácil de usar. Um relatório de 2019 da empresa de AI DeepTrace Labs revelou que essas imagens são majoritariamente usadas contra mulheres, sendo a maioria das vítimas atrizes de Hollywood e cantoras de K-pop sul-coreanas.
Fãs de Swift prontos para defendê-la, possíveis repercussões legais
Brittany Spanos, escritora sênior da Rolling Stone e professora de um curso sobre Swift na Universidade de Nova Iorque, observa que os fãs de Swift prontamente se mobilizam em defesa de sua artista, especialmente em situações de injustiça. “Isso poderia ser um grande problema se ela realmente levar isso ao tribunal”, ela comentou.
O histórico de Swift com deepfakes e similares
Spanos associou o problema do pornô deepfake com questões passadas de Swift, referindo-se ao seu processo de 2017 contra um DJ de rádio que supostamente a assediou; Swift foi compensada com 1 dólar em danos, quantia que seu advogado, Douglas Baldridge, chamou de “um dólar simbólico, cujo valor é imensurável para todas as mulheres nessa situação”, no auge do movimento MeToo.
Plataforma X responde ao incidente e reduz equipes de moderação de conteúdo
Quando solicitado a comentar sobre as imagens falsas de Swift, X direcionou a Associated Press para uma postagem de sua conta de segurança que destacava que a empresa proíbe estritamente o compartilhamento de imagens de nudez não consensuais em sua plataforma. A empresa também reduziu drasticamente suas equipes de moderação de conteúdo desde que Elon Musk assumiu a plataforma em 2022.
Meta condena conteúdo inapropriado e trabalha para removê-lo
Enquanto isso, a Meta declarou em um comunicado que condena fortemente “o conteúdo que surgiu em diferentes serviços de internet” e trabalhou para removê-lo. “Continuamos a monitorar nossas plataformas quanto a este conteúdo violador e tomaremos ações apropriadas conforme necessário”, disse a empresa.
Representantes de Swift ainda não comentaram o caso
Um representante de Swift não respondeu de imediato a um pedido de comentário na sexta-feira.
Confiança dos pesquisadores na origem das deepfakes
Allen afirmou que os pesquisadores estão 90% confiantes de que as imagens foram criadas por modelos de difusão, um tipo de modelo de inteligência artificial generativa capaz de produzir novas imagens fotorrealistas a partir de instruções escritas. Os mais conhecidos incluem Stable Diffusion, Midjourney e DALL-E da OpenAI, mas o grupo de Allen não tentou determinar a origem.
OpenAI e Microsoft implementam salvaguardas para prevenir uso indevido
A OpenAI anunciou ter mecanismos de segurança para limitar a geração de conteúdo prejudicial e “recusar pedidos que pedem por uma figura pública pelo nome, incluindo Taylor Swift”. A Microsoft, que oferece um gerador de imagens baseado em partes em DALL-E, informou na sexta-feira que estava investigando se sua ferramenta foi usada indevidamente. Assim como outros serviços comerciais de IA, a empresa disse que não permite “conteúdo íntimo adulto ou não consensual, e tentativas repetidas de produzir conteúdo contra nossas políticas podem resultar na perda de acesso ao serviço”.
CEO da Microsoft discute a necessidade de proteção contra deepfakes
Questionado sobre os deepfakes de Swift no “NBC Nightly News”, o CEO da Microsoft, Satya Nadella, expressou ao apresentador Lester Holt que ainda há muito a ser feito para estabelecer salvaguardas de IA e “convém a nós agir rapidamente nesse aspecto”. “Isto é alarmante e terrível, portanto, sim, temos que atuar”, declarou Nadella.
Empresas de IA e deepfakes não respondem aos pedidos de comentário
Midjourney, OpenAI e a criadora do Stable Diffusion, Stability AI, não responderam imediatamente aos pedidos de comentário.
Legisladores buscam restringir e criminalizar pornografia deepfake
Legisladores federais que propuseram projetos de lei para impor mais restrições ou criminalizar a pornografia deepfake afirmaram que o caso mostra por que os EUA precisam implementar proteções melhores. “Por anos, mulheres têm sido vítimas de deepfakes não consensuais, então o que aconteceu com Taylor Swift é mais comum do que a maioria das pessoas percebe”, disse a representante dos EUA Yvette D. Clarke, uma democrata de Nova Iorque que apresentou legislação que exigiria que criadores marcassem digitalmente o conteúdo deepfake.
Impactos reais das deepfakes na vida das mulheres
O representante dos EUA Joe Morelle, um democrata de Nova Iorque que apoia um projeto de lei que criminalizaria o compartilhamento de pornografia deepfake online, disse que o acontecido com Swift é perturbador e tornou-se cada vez mais comum na internet. “As imagens podem ser falsas, mas seus impactos são muito reais”, disse Morelle em declaração. “Deepfakes ocorrem todos os dias com mulheres em todo o mundo em nosso mundo cada vez mais digital, e é hora de dar um basta nisso.”
