Depois de imagens fakes do papa Francisco e de Donald Trump viralizarem nas redes sociais, o gerador de imagens Midjourney decidiu interromper a oferta de testes gratuitos do serviço. O sistema movido por inteligência artificial foi usado para criar as peças que mostravam o pontífice com casaco 'fashion' e o ex-presidente americano sendo preso.
Antes, a ferramenta permitia que qualquer pessoa pudesse se inscrever gratuitamente para usar o software, com a oferta de 25 gerações de imagens por IA. Depois desse limite, os usuários precisam assinar o serviço, a um custo de US$ 10 ao mês.
Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ
— Eliot Higgins (@EliotHiggins) March 20, 2023
Segundo o The Verge, ao anunciar a mudança, o CEO e fundador da Midjourney, David Holz, citou uma “demanda extraordinária" pelo uso do sistema e também um "abuso de julgamento” nas aplicações da inteligência artificial. O executivo acrescentou que novas salvaguardas de segurança não foram "suficientes" para evitar o uso indevido da ferramenta durante os períodos de teste.
Na última semana, uma imagem criada pelo Midjourney viralizou nas redes sociais ao mostrarem o papa Francisco vestindo um casaco branco no estilo "puffer". Antes, outras imagens criada no software já tinham repercutido nas redes: as de Donald Trump, ex-presidente dos EUA, sendo preso. Nos dois casos, usuários chegaram a compartilhar as peças como se elas fossem reais.
O caso aumentou a preocupação de especialistas sobre o risco de deepfakes criadas por IA ampliarem a desinformação na internet. No caso de Trump, o próprio político chegou a compartilhar a imagem gerada por IA em sua própria plataforma de mídia social, a Truth Social.
Época Negócios
