Com o crescente desenvolvimento e avanço dos sistemas de Inteligência Artificial, multiplicam-se os estudos sobre o impacto destes na vida como a conhecemos atualmente. Um estudo assinado pela Deepmind e por investigadores da Universidade de Oxford traça um cenário bastante negro: “nas condições que analisamos, a nossa conclusão é muito mais forte do que as de qualquer estudo anterior: uma catástrofe existencial não é só possível, como é provável”, escreveu Michael C. Cohen, um dos autores, numa publicação sobre o estudo no Twitter.
Os autores olharam para o risco existencial para a Humanidade, analisando a forma como os sistemas de recompensa estão a ser construídos atualmente. Os modelos de IA com mais sucesso atualmente são os de GAN (de Generative Adversarial Network), com uma estrutura de duas partes onde uma parte do programa tenta gerar uma imagem ou frase a partir de dados introduzidos e uma segunda parte está a avaliar o desempenho. Este novo estudo prevê que, em algum momento no futuro, um sistema de IA avançado vai poder ser incentivado para encontrar formas de fazer batota e obter recompensas através de formas que prejudiquem o Homem, explica o Vice.
“Num mundo com recursos infinitos, estaria bastante inseguro sobre o que poderia acontecer. Num mundo com recursos finitos, há uma competição inevitável por esses recursos”, explicou Cohen, detalhando que “se estivermos em competição com algo que é capaz de nos ultrapassar em cada curva, não devemos esperar ganhar. E a outra parte fundamental é que o sistema vai ter um apetite insaciável para ter mais energia para continuar a aumentar a probabilidade mais e mais”.
Leia o estudo publicado no AI Magazine aqui.
