O Congresso Pode Realmente Fazer Algo Sobre Inteligência Artificial, Graças a Taylor Swift

Bem-vindo à “AI Esta Semana”, a imersão semanal do Gizmodo no que aconteceu recentemente no campo da inteligência artificial.

O que Observar: As vendas do vinil “Midnights” de Taylor Swift.

As preocupações sobre a pornografia com IA, ou mais comumente “deepfake porn”, não são novas. Por anos, inúmeras mulheres e meninas foram submetidas a uma enxurrada de imagens pornográficas não consensuais, fáceis de distribuir online, mas bastante difíceis de serem removidas. Notavelmente, a pornografia “deepfake” de celebridades tem sido uma fonte contínua de controvérsia, que frequentemente ganha atenção, mas pouca resposta legislativa. Agora, o Congresso pode finalmente fazer algo sobre isso graças a imagens geradas por computador da estrela pop mais famosa do mundo.

Sim, tem sido uma história difícil de ignorar: há algumas semanas, imagens de IA geradas de forma pornográfica de Taylor Swift foram amplamente distribuídas no X (anteriormente Twitter). Desde então, a base de fãs de Swift tem demonstrado grande descontentamento e uma conversa nacional surgiu sobre esse problema muito familiar.

Agora, uma legislação foi introduzida para combater o problema. O Ato DEFIANCE foi apresentado como legislação bipartidária pelos Senadores Dick Durbin, (D-Ill.), Josh Hawley, (R-Mo) e Lindsey Graham, (R-S.C.). Se promulgada, a legislação permitiria que vítimas de pornografia “deepfake” processassem indivíduos que distribuíram “falsificações digitais” delas de natureza sexual. A lei proposta basicamente abriria portas para litígios de alto perfil por parte de celebridades femininas cujas imagens são usadas em casos como o que envolve Swift. Outras mulheres e vítimas também poderiam processar, mas as mais ricas e famosas teriam recursos para levar adiante tais litígios.

O projeto de lei define “falsificação digital” como “uma representação visual criada por meio do uso de software, aprendizado de máquina, inteligência artificial ou qualquer outro meio gerado por computador ou tecnológico para parecer falsamente autêntica”.

“Este mês, imagens falsas e sexualmente explícitas de Taylor Swift geradas por inteligência artificial se espalharam por plataformas de mídia social. Embora as imagens sejam falsas, o dano às vítimas causado pela distribuição de ‘deepfakes’ sexualmente explícitos é muito real”, disse o Senador Durbin, em um comunicado de imprensa associado ao projeto de lei. O comunicado também observa que o “volume de conteúdo ‘deepfake’ disponível online está aumentando exponencialmente, à medida que a tecnologia utilizada para criá-lo se tornou mais acessível ao público”.

Como já foi mencionado, a pornografia com IA ou Deepfake tem sido um problema contínuo há algum tempo, mas os avanços na IA nos últimos anos tornaram a geração de pornografia realista (ainda que ligeiramente bizarra) muito mais fácil. O surgimento de geradores de imagens grátis e acessíveis, como o DALL-E da OpenAI e outros do seu tipo, significa que praticamente qualquer pessoa pode criar a imagem que deseja – ou, pelo menos, pode criar a melhor aproximação do que deseja por um algoritmo – com o clique de um botão. Isso causou uma série de problemas, incluindo uma explosão aparente de material de abuso infantil gerado por computador que governos e reguladores de conteúdo não parecem saber como combater.

A conversa sobre a regulamentação de deepfakes foi iniciada várias vezes, embora esforços sérios para implementar alguma política nova tenham sido repetidamente adiados ou abandonados pelo Congresso.

Há pouca maneira de saber se este esforço em particular terá sucesso, embora, como Amanda Hoover da Wired apontou recentemente, se Taylor Swift não pode derrotar a pornografia de deepfake, ninguém pode.

Pergunta do dia: O novo robô da Meta pode limpar seu quarto bagunçado?

Atualmente, há uma corrida em Silicon Valley para ver quem pode criar o robô comercialmente mais viável. Enquanto a maioria das empresas parece estar preocupada em criar um robô “humanóide” que lembre o C3PO, a Meta pode estar ganhando a corrida para criar um robô funcional de verdade que possa fazer coisas por você. Esta semana, pesquisadores ligados à empresa revelaram o seu OK-Robot, que parece um suporte de lâmpada acoplado a um Roomba. Embora o dispositivo possa parecer bobo, o sistema de IA que o guia é sério. Em vários vídeos do YouTube, o robô pode ser visto circulando por um quarto bagunçado e pegando e realocando vários objetos. Os pesquisadores dizem que o bot usa “Modelos de Visão-Linguagem (VLMs) para detecção de objetos, primários de navegação para movimento e primários de agarramento para manipulação de objetos”. Em outras palavras, esta coisa pode ver, pegar e se movimentar em um espaço físico com uma quantidade razoável de competência. Além disso, o bot faz isso em ambientes nos quais nunca esteve antes – o que é uma façanha impressionante para um robô, já que a maioria deles só consegue realizar tarefas em ambientes altamente controlados.

Outras manchetes desta semana:

As empresas de IA acabaram de perder uma grande quantidade de valor de mercado. A capitalização de mercado de várias grandes empresas de IA despencou esta semana depois que seus relatórios trimestrais de ganhos mostraram que elas trouxeram significativamente menos receita do que os investidores esperavam. A empresa mãe da Google, Alphabet, Microsoft e a fabricante de chips AMD, todas testemunharam uma venda massiva na terça-feira. A Reuters relata que, no total, as empresas perderam 190 bilhões de dólares em capitalização de mercado. Sério, isso é muito.

A FCC pode criminalizar chamadas automáticas geradas por IA. A IA permitiu que as fraudes online se alastrassem – impulsionando golpes online que já eram irritantes, mas que graças a novas formas de automação, agora são piores do que nunca. Na semana passada, o Presidente Joe Biden foi alvo de uma chamada automática gerada por IA e, como resultado, a Comissão Federal de Comunicações agora quer proibir legalmente tais chamadas. “Clonagem vocal gerada por IA e imagens já estão causando confusão ao enganar os consumidores, fazendo-os pensar que golpes e fraudes são legítimos”, disse Jessica Rosenworcel, Presidente da FCC, em um comunicado enviado à NBC.

A Amazon apresentou um assistente de compras com IA. A maior empresa de comércio eletrônico do mundo lançou um chatbot treinado com IA, apelidado de “Rufus”, que foi projetado para ajudá-lo a comprar de forma mais eficiente. Rufus é descrito como um “assistente de compras especializado treinado no catálogo de produtos da Amazon e informações da web para responder a perguntas dos clientes sobre necessidades de compras, produtos e comparações”. Embora eu esteja tentado a zombar desse recurso, devo admitir: comprar pode ser difícil. Muitas vezes parece que é necessário uma quantidade ridícula de pesquisa apenas para fazer as compras mais simples. Somente o tempo dirá se Rufus realmente pode economizar tempo para o usuário casual da web ou se ele “alucinará” alguns conselhos terríveis que tornarão sua jornada de comércio eletrônico ainda pior. Se este for o caso, eu voto para que pressionemos a Amazon a renomear o bot para “Doofus
Read More