Midjourney tem versão suspensa após deepfakes do Papa

O Midjourney, plataforma de criação de imagens que utiliza inteligência artificial para gerar ilustrações únicas e personalizadas, teve a sua versão de testes no Discord suspensa. O motivo do encerramento da edição aberta se deu após uma série de deepfakes produzidas. Entenda!

Imagem do Papa Francisco

A Inteligência Artificial consegue gerar imagens bizarras. Entre elas está uma foto do Papa Francisco usando um longo casaco puffer branco, junto com seu tradicional zucchetto e um crucifixo no peito. Além dessa, outra imagem do líder da Igreja Católica segurando uma arma também circula na web.

Na última terça-feira (28), o CEO e fundador da Midjourney, David Holz, anunciou a mudança, mas não confirmou esse motivo, citando apenas “demanda extraordinária e abuso nos testes”, de acordo com o The Washington Post.

Versão gratuita do Midjourney suspensa

O Midjourney estava liberado para qualquer pessoa, no Discord, com livre acesso a 25 gerações de imagens gratuitas antes de começar uma assinatura. O plano básico oferece até 200 gerações de imagens por US$ 8 (R$ 41) por mês, um preço acessível quando se tem em conta as possibilidades da ferramenta.

Especialistas já alertavam sobre o risco potencial de a IA produzir desinformação, antes mesmo de ser lançada. Na época, Holz  defendia afirmando que as falsificações eram detectáveis com facilidade, “você não pode forçá-lo a fazer um deepfake agora”, afirmou o executivo do The Verge.

No entanto, após o laboratório independente lançar, no dia 15 de março, a versão 5 da ferramenta, vários melhoramentos na qualidade de imagens foram feitos, favorecendo a divulgação de deepfakes.

As deepfakes são falsificações digitais altamente realistas de conteúdo visual ou de áudio que foram manipuladas usando algoritmos de Inteligência Artificial (IA). Deepfakes podem ser usadas ​​para criar vídeos falsos, imagens ou gravações de áudio que parecem reais e geralmente apresentam pessoas reais dizendo ou fazendo coisas que nunca fizeram.