O bot de IA de Elon Musk, Grok, está produzindo deepfakes de Barack Obama e Taylor Swift

Controvérsia sobre Deepfakes na Plataforma de Mídia Social

Os assinantes premium do X estão inundando a plataforma de mídia social com imagens polêmicas de deepfakes, relata o The Verge. A ferramenta de IA que eles estão usando para criar essas imagens é o Grok – um chatbot feito pela startup de Elon Musk, a xAI.

Análise Crítica da IA do Grok

Segundo o The Verge, a margem de manobra do Grok permite aos usuários criar imagens deepfake de Taylor Swift de lingerie, Barack Obama esfaqueando Joe Biden com uma faca, Kamala Harris segurando uma arma e Bill Gates usando cocaína. Embora o Grok afirme que “evita gerar imagens que são pornográficas, excessivamente violentas, odiosas ou que promovam atividades perigosas”.

A polêmica da IA da Brock

O jovem Travis Kelce, apaixonado por Taylor Swift, não fica surpreso ao saber que o chatbot de Elon Musk está se aproximando de conteúdo problemático. Sua outra empresa, X, também tem sido amplamente criticada por promover conteúdo racista, violento e transfóbico.

Investigações e Ações Empresariais Relativas a Deepfakes

Além disso, a empresa está sendo investigada pela UE em relação à forma como modera o conteúdo. E a Comissão Europeia, em maio, expressou preocupação de que a X tinha feito grandes reduções em sua equipe de moderação de conteúdo. Outros chatbots têm trabalhado para lidar com a geração de conteúdo prejudicial.

As consequências do uso de Deepfakes

Deepfakes têm sido associados à proliferação de desinformação e assédio sexual. A maioria dos deepfakes na internet são mídias pornográficas geradas por IA sem consentimento, que visam sobretudo as mulheres. Dez estados têm leis que regulamentam deepfakes, mas ainda não existem leis federais
Read More