Depois de o gerador de imagens do Midjourney, laboratório responsável pela conhecida ferramenta, ter sido usado para criar imagens realistas, mas totalmente falsas, do Papa Francisco com um casaco do estilo puffer ou de Donald Trump a ser detido, entre outras, a empresa decidiu vedar o acesso gratuito ao mesmo. O diretor executivo da empresa, David Holz, escreveu no Discord que os testes gratuitos acabaram devido à “procura extraordinária e aos abusos”. Agora, quem quiser usar o sistema terá de pagar 10 dólares por mês (cerca de nove euros por mês, ao câmbio atual).
Embora estes conteúdos tenham rapidamente sido identificados como falsos, permanece o risco de utilizadores mal intencionados poderem usar o gerador com más intenções em ocasiões futuras, noticia o Engadget.
Já desde 2022 que a Midjourney tem vindo a tentar implementar medidas de proteção para evitar uma utilização abusiva da plataforma, mas o CEO acaba por admitir agora que estavam com dificuldades em definir as políticas de conteúdos, na medida que o algoritmo estava a devolver imagens cada vez mais realistas.
Na OpenAI, as medidas de proteção passam por impedir a geração de imagens de eventos políticos atuais, teorias da conspiração, políticos, ódio, sexualidade ou violência.
A decisão de limitar o acesso à ferramenta Midjourney surge na mesma semana em que vários especialistas em Inteligência Artificial pediram uma “pausa” de seis meses no desenvolvimento de sistemas avançados de IA.
