Visão

Siga-nos nas redes

Perfil

Stephen Hawking responde: Ficará a inteligência artificial mais inteligente do que nós?

Sociedade

Chris Williamson/ Getty Images

É um dos grandes medos da humanidade e uma questão analisada por Stephen Hawking no recém-lançado livro Breves Respostas às Grandes Perguntas. Aqui pode ler este capítulo e uma entrevista a Lucy Hawking, filha do cientista, que organizou estes escritos deixados incompletos aquando da sua morte, em março de 2018

Leia a entrevista à fiha, Lucy Hawking:

O meu pai costumava dizer: ‘O senso comum é uma outra forma de preconceito. Impede-nos de fazer perguntas’

FICARÁ A INTELIGÊNCIA ARTIFICIAL MAIS INTELIGENTE DO QUE NÓS?

A inteligência é central ao que significa ser humano. Tudo o que a civilização tem para oferecer é um produto da inteligência humana.

O ADN transmite o esquema da vida entre gerações. Formas de vida cada vez mais complexas recebem informação através de sensores como os olhos e os ouvidos e processam a informação em cérebros ou outros sistemas para descobrir como agir e depois agir no mundo, libertando informação para os músculos, por exemplo. Num determinado momento, no decorrer dos nossos 13,8 mil milhões de anos de história cósmica, algo de belo aconteceu. Este processamento de informação tornou-se tão inteligente que as formas de vida se tornaram conscientes. O nosso universo acordou, tomando consciência de si próprio. Entendo tratar-se de um triunfo o facto de nós, que somos mera poeira estelar, termos chegado a uma compreensão tão pormenorizada do universo em que vivemos.

Creio que não há uma diferença significativa entre a maneira como o cérebro de uma minhoca funciona e como um computador computa. Também acredito que a evolução implica que não pode haver uma diferença qualitativa entre o cérebro de uma minhoca e o cérebro de um ser humano. Daí advém que os computadores podem, em princípio, imitar a inteligência humana ou até ultrapassá-la. É claramente possível para algo adquirir um grau de inteligência mais elevado do que o dos seus antecessores: evoluímos para sermos mais inteligentes do que os nossos antepassados de aspeto simiesco e Einstein era mais inteligente do que os seus pais.

Máquinas a construir máquinas - Parece o cenário de um filme de ficção científica, mas é apenas uma linha de montagem numa fábrica da Kia Motors, na Eslováquia

Máquinas a construir máquinas - Parece o cenário de um filme de ficção científica, mas é apenas uma linha de montagem numa fábrica da Kia Motors, na Eslováquia

Getty Images

Se os computadores continuarem a obedecer à Lei de Moore, duplicando a sua velocidade e capacidade de memória de 18 em 18 meses, o resultado será que os computadores terão a probabilidade de ultrapassar os humanos em inteligência ao longo dos próximos cem anos. Quando a inteligência artificial (IA) se tornar melhor do que os humanos na conceção de IA, para que possa melhorar-se recursivamente a si própria sem auxílio humano, poderemos enfrentar uma explosão de inteligência que, em última análise, resultará em máquinas cuja inteligência supera a nossa em muito mais do que a nossa supera a dos caracóis. Quando isso acontecer, teremos de garantir que os computadores têm objetivos alinhados com os nossos. É tentador rejeitar a noção de máquinas extremamente inteligentes como mera ficção científica, mas isso seria um erro, e potencialmente o nosso maior erro de sempre.

Ao longo dos últimos vinte anos, a IA tem-se concentrado nos problemas em torno da construção de agentes inteligentes, sistemas que entendam e ajam num determinado ambiente. Neste contexto, a inteligência encontra-se relacionada com as noções estatística e económica da racionalidade – ou seja, coloquialmente, a capacidade de tomar boas decisões, fazer planos ou deduções. Em resultado desta investigação recente, tem havido um elevado grau de integração e de enriquecimento mútuo entre a IA, aprendizagem automática, estatísticas, teoria do controlo, neurociência e outros campos. O estabelecimento de enquadramentos teóricos partilhados, conjugados com a disponibilidade de dados e de poder de processamento, produziu um sucesso assinalável em várias tarefas integrantes, como a velocidade de reconhecimento, classificação de imagem, veículos autónomos, tradução automática, locomoção com pernas e sistemas de perguntas e respostas.

À medida que o desenvolvimento nestas áreas e noutras passa de investigação laboratorial para tecnologias economicamente válidas, gera-se um ciclo virtuoso, através do qual mesmo pequenas melhorias no desempenho valem grandes somas de dinheiro, dando origem a ainda mais e maiores investimentos em investigação. Existe atualmente um consenso alargado de que a investigação em IA está a progredir com estabilidade e que o seu impacte na sociedade tem probabilidade de aumentar. Os benefícios potenciais são enormes; não podemos prever o que poderemos alcançar quando esta inteligência for ampliada pelas ferramentas que a IA pode fornecer. A erradicação de doenças e da pobreza são possíveis. Devido ao grande potencial da IA, é importante investigar agora de modo a colher os seus benefícios enquanto se evitam os potenciais perigos. O sucesso na criação da IA seria o maior acontecimento na história da humanidade.

“O verdadeiro risco da IA não são as más intenções, mas sim a competência”

Infelizmente, também poderá ser o último, a menos que aprendamos como evitar os riscos. Usado como um conjunto de ferramentas, a IA pode aumentar a inteligência existente para gerar avanços em todas as áreas da ciência e da sociedade. Contudo, também trará perigos. Ainda que as formas primitivas de inteligência artificial desenvolvidas até aqui se tenham revelado muito úteis, receio as consequências de criar algo que possa ser equivalente ou ultrapassar os humanos. A minha preocupação é a de que a IA descole sozinha e se reformule a si própria a um ritmo cada vez maior. Os humanos, que se encontram limitados pela evolução biológica lenta, não conseguiriam concorrer e seriam substituídos. E a futura IA poderia desenvolver uma vontade própria, uma vontade que se encontraria em conflito com a nossa. Outros acreditam que os humanos podem ditar o ritmo da tecnologia durante um período de tempo decentemente longo e que o potencial da IA para resolver muitos dos problemas do mundo será compreendido. Embora eu seja conhecido por ser otimista no que respeita à espécie humana, não tenho tanta certeza.

Adeus, empregos? - Trabalhos como servir à mesa nos restaurantes são facilmente feitos por robôs, como este encontrado num restaurante em Katmandu, no Nepal

Adeus, empregos? - Trabalhos como servir à mesa nos restaurantes são facilmente feitos por robôs, como este encontrado num restaurante em Katmandu, no Nepal

Getty Images

Por exemplo, a curto prazo, os exércitos mundiais estão a considerar a hipótese de iniciar uma corrida ao armamento em sistemas de armamento autónomo que possam escolher e eliminar os seus próprios alvos. Enquanto as Nações Unidas estão a debater um tratado para banir tais armas, os defensores de armamento autónomo esquecem-se normalmente de colocar a questão mais importante: qual é o final provável de uma corrida ao armamento e será ele desejável para a espécie humana? Queremos verdadeiramente que armas de IA baratas se transformem nas Kalashnikov de amanhã, vendidas a criminosos e a terroristas no mercado negro? Tendo em conta as preocupações acerca da nossa capacidade para manter um controlo sobre sistemas cada vez mais avançados de IA a longo prazo, deveremos armá-los e entregar-lhes a nossa defesa? Em 2010, os sistemas comerciais computorizados criaram o Flash Crash do mercado bolsista; com que se pareceria uma quebra de origem computorizada na arena de defesa? A melhor altura para parar uma corrida ao armamento autónomo é agora.

A médio prazo, a IA poderá automatizar os nossos empregos, trazendo tanto grande prosperidade como igualdade. Olhando ainda mais para o futuro, não existem limites fundamentais para o que pode ser alcançado. Não existe lei física que impeça as partículas de serem organizadas de modos que desempenhem computações ainda mais avançadas do que as disposições das partículas nos cérebros humanos. É possível uma transição explosiva, embora possa ter um resultado diferente do dos filmes. O matemático Irving Good apercebeu-se, em 1965, de que as máquinas com uma inteligência sobre-humana poderiam, repetidamente, melhorar ainda mais a sua conceção, no que o escritor de ficção científica Vernor Vinge chamou de singularidade tecnológica. Uma pessoa pode imaginar tal tecnologia a ser mais inteligente do que os mercados financeiros, a inventar mais e melhor do que os investigadores humanos, a manipular melhor os líderes humanos e, potencialmente, a subjugar-nos com as armas que nós nem sequer conseguimos compreender. Ao passo que o impacte a curto prazo da IA depende de quem a controla, o impacte a longo prazo depende da possibilidade ou impossibilidade de ser controlada.

Resumindo, a chegada da IA superinteligente seria a melhor ou a pior coisa que alguma vez aconteceria à humanidade. O verdadeiro risco da IA não são as más intenções, mas sim a competência. Uma IA superinteligente será extremamente boa a atingir os seus objetivos e, se esses objetivos não estiverem alinhados com os nossos, teremos problemas. Provavelmente, o leitor não será uma pessoa maldosa que odeia formigas e que pisa as formigas por pura maldade, mas se for responsável por um projeto hidroelétrico de energia verde e houver um formigueiro na região que terá de ser inundado, azar das formigas. Não coloquemos a humanidade na posição dessas formigas. Devemos fazer planos antecipadamente. Se uma civilização extraterrestre superior nos enviar uma mensagem escrita a dizer: “Chegaremos dentro de algumas décadas”, responderíamos apenas: “Muito bem, digam qualquer coisa quando chegarem, estaremos à vossa espera?” Provavelmente não, mas isto é mais ou menos o que tem acontecido com a IA. Tem sido dedicada pouca investigação séria a estes temas fora de alguns pequenos institutos sem fins lucrativos.

“É uma mudança bem-vinda que as pessoas estudem, em vez da História, o futuro da inteligência”

Felizmente, isto está agora em mudança. Os pioneiros em tecnologia Bill Gates, Steve Wozniak e Elon Musk têm dado eco às minhas preocupações, e uma cultura saudável de avaliação de risco e consciência das implicações sociais está a começar a enraizar-se na comunidade da IA. Em janeiro de 2015, eu, juntamente com Elon Musk e muitos especialistas em IA, subscrevemos uma carta aberta acerca da inteligência artificial, apelando a que seja realizada uma investigação séria acerca do seu impacte na sociedade. No passado, Elon Musk preveniu que uma inteligência artificial sobre-humana conseguiria fornecer benefícios incalculáveis, mas se for utilizada imprudentemente terá um efeito adverso na espécie humana. Ele e eu sentámo-nos no Comité Consultivo Científico do Instituto para o Futuro da Vida, uma organização que trabalha para mitigar riscos existenciais que a humanidade enfrenta e o qual redigiu a carta aberta. Esta fazia um apelo para que houvesse investigação concreta acerca de como podíamos evitar problemas potenciais ao mesmo tempo que se colhiam os benefícios potenciais que a IA nos oferecia, e foi concebido para que os criadores e investigadores da IA prestassem mais atenção à segurança da inteligência artificial. Além disso, para os legisladores e para o público em geral, a carta tinha como objetivo ser informativa, mas não alarmista. Acreditamos que é muito importante que todos saibam que os investigadores de IA estão a pensar seriamente nestas preocupações e nestes problemas éticos. Por exemplo, a IA tem o potencial para erradicar as doenças e a pobreza, mas os investigadores devem trabalhar para criar uma inteligência artificial que possa ser controlada.

Hello, ‘‘Pepper’’! - Em Londres, o robô Pepper presta informações aos clientes da Eurostar, um serviço de alta velocidade que atravessa o canal da Mancha

Hello, ‘‘Pepper’’! - Em Londres, o robô Pepper presta informações aos clientes da Eurostar, um serviço de alta velocidade que atravessa o canal da Mancha

Getty Images

Em outubro de 2016, também abri um novo centro em Cambridge, que tentará abordar algumas das questões deixadas em aberto, levantadas pelo avanço rápido do desenvolvimento na investigação da IA. O Leverhulme Centre for the Future of Intelligence é um instituto multidisciplinar, que se dedica à investigação do futuro da inteligência, tão essencial para o futuro da nossa civilização e da nossa espécie. Passamos muito tempo a estudar a História, que é, sejamos honestos, em grande parte uma história da estupidez. Portanto, é uma mudança bem-vinda que as pessoas estudem, em vez da História, o futuro da inteligência. Temos consciência dos perigos potenciais, mas talvez com as ferramentas desta nova revolução tecnológica sejamos mesmo capazes de desfazer alguns dos danos que provocámos ao mundo natural através da industrialização.

Desenvolvimentos recentes no avanço da IA incluem um pedido do Parlamento Europeu para que seja redigido um conjunto de regulações que giram a criação de robôs e de inteligência artificial. De um modo algo surpreendente, isso inclui uma forma de personalidade eletrónica, para garantir os direitos e responsabilidades de uma IA mais avançada e mais capaz. Um porta-voz do Parlamento Europeu comentou que, dado que um número crescente de áreas das nossas vidas quotidianas está a ser cada vez mais afetado por robôs, temos de garantir que os robôs estão e continuarão a estar ao serviço dos humanos. Um relatório apresentado ao Parlamento declara que o mundo se encontra na iminência de uma nova revolução industrial robótica. Analisa se atribuir direitos legais aos robôs, enquanto pessoas eletrónicas, em igualdade com a definição legal de personalidade empresarial, seria admissível. Mas realça que, a todo o momento, os investigadores e criadores devem garantir que todas as conceções robóticas incluam um interruptor terminal.

Isto não ajudou os cientistas a bordo da nave espacial com Hal, o computador robotizado defeituoso de 2001: Odisseia no Espaço, de Stanley Kubrick, mas isso era ficção. Nós lidamos com factos. Lorna Brazell, consultora na multinacional de advocacia Osborne Clarke, afirma no seu relatório que não atribuímos personalidade às baleias nem aos gorilas, portanto não é necessário dar o salto para a personalidade robótica. Mas a desconfiança existe. O relatório reconhece a possibilidade de que, dentro de algumas décadas, a IA possa ultrapassar a capacidade intelectual humana e desafiar a relação entre humanos e robôs.

“Se conseguirmos ligar um cérebro humano à Internet, ele terá toda a Wikipédia à sua disposição”

Por volta de 2025 existirão cerca de trinta megacidades, cada uma delas com mais de dez milhões de habitantes. Com todas essas pessoas a reclamar bens e serviços que lhes sejam entregues sempre que os desejem, poderá a tecnologia ajudar-nos a acompanhar esse desejo de comércio imediato? Os robôs acelerarão decididamente o processo de retalho da Internet. Mas, para revolucionar as compras, têm de ser suficientemente rápidos para permitir entregas no próprio dia para todas as encomendas.

As oportunidades para interagir com o mundo, sem ter de se estar fisicamente presente, estão a aumentar rapidamente. Como pode imaginar, acho isso apelativo, nomeadamente porque a vida na cidade é tão agitada para todos nós. Quantas vezes desejou ter um duplo que pudesse partilhar o seu volume de trabalho? Criar substitutos reais digitais de nós próprios é um sonho ambicioso, mas a mais recente tecnologia sugere que poderá não ser uma ideia tão rebuscada como parece.

Ao nosso serviço - Os veículos autónomos de entrega de compras em casa são já uma realidade. Aqui um exemplar da JD.com a operar na China)

Ao nosso serviço - Os veículos autónomos de entrega de compras em casa são já uma realidade. Aqui um exemplar da JD.com a operar na China)

Getty Images

Quando eu era mais novo, a ascensão da tecnologia apontava para um futuro em que todos teríamos mais tempo de lazer. Mas, na realidade, quanto mais conseguimos fazer, mais ocupados ficamos. As nossas cidades já estão cheias de máquinas que alargam os nossos recursos, mas e se pudéssemos estar em dois locais ao mesmo tempo? Estamos habituados a vozes automatizadas em sistemas telefónicos e em anúncios públicos. Agora o inventor Daniel Kraft está a investigar como poderemos replicar-nos a nós próprios visualmente. A questão é: quão convincente poderá ser um avatar?

Professores interativos poderiam ser úteis para a maioria dos cursos massive open online (MOOC) e para o entretenimento. Poderia ser verdadeiramente entusiasmante – atores digitais que seriam jovens para sempre e que poderiam, deste modo, realizar proezas impossíveis. Os nossos ídolos do futuro poderiam nem sequer ser reais.
Como nos ligamos com o mundo digital é essencial para o progresso que faremos no futuro. Nas cidades mais inteligentes, as casas mais inteligentes estarão equipadas com aparelhos que são tão intuitivos que quase não será necessário esforço para interagir com eles.

Quando se inventou a máquina de escrever, abriu-se caminho para o modo como interagimos com as máquinas. Perto de 150 anos depois e os ecrãs por toque desbloquearam novos modos de comunicar com o mundo digital. Marcos recentes de IA, como os veículos que se conduzem sozinhos ou um computador que vence o jogo Go, são sinais do que aí vem. Níveis enormes de investimento estão a jorrar para esta tecnologia, que já representa uma parte considerável das nossas vidas. Nas décadas que aí vêm infiltrar-se-á em todos os aspetos da nossa sociedade, apoiando e aconselhando-nos de modo inteligente em muitas áreas incluindo a saúde, o trabalho, a educação e a ciência. As conquistas que vimos até aqui serão seguramente pálidas quando comparadas com as que as próximas décadas trarão e não conseguimos prever o que poderemos alcançar quando as nossas próprias mentes forem amplificadas pela IA.

Talvez as ferramentas desta nova revolução tecnológica permitam tornar a vida humana melhor. Por exemplo, os investigadores estão a desenvolver IA que ajudará a reverter a paralisia em pessoas com lesões na coluna vertebral. Utilizando implantes de circuitos integrados em silicone e interfaces eletrónicos sem fios entre o cérebro e o corpo, a tecnologia permitiria às pessoas controlarem os movimentos do seu corpo com os seus pensamentos.

Eu acredito que o futuro da comunicação seja interfaces entre o cérebro e os computadores. Há dois caminhos: elétrodos no crânio e implantes. O primeiro é como olhar através de vidro fosco, o segundo é melhor, mas tem o risco de infeção. Se conseguirmos ligar um cérebro humano à Internet, ele terá toda a Wikipédia à sua disposição.

O mundo tem estado a mudar cada vez mais depressa, à medida que pessoas, aparelhos e informação estão cada vez mais ligados uns aos outros. O poder computacional encontra-se em crescimento e a computação quântica está a ser rapidamente concretizada. Isto revolucionará a inteligência artificial com velocidades exponencialmente mais rápidas. Avançará a encriptação. Os computadores quânticos mudarão tudo, até a biologia humana. Já existe uma técnica que permite editar com precisão o ADN, chamada CRISPR. A base desta tecnologia de edição do genoma é um sistema de defesa bacteriano. Pode, com exatidão, selecionar e editar extensões de código genético. De acordo com a melhor intenção de manipulação genética, alterar os genes permitiria aos cientistas tratar causas genéricas da doença, corrigindo as mutações dos genes. Contudo, existem possibilidades menos nobres quando se trata de manipular o ADN. Até onde podemos ir com a engenharia genética tornar-se-á uma questão cada vez mais premente. Não nos é possível vislumbrar as possibilidades de curar doenças do neurónio motor – como a minha ELA – sem vislumbrar também os seus perigos.

E aqui os polícias-robôs, também na China

E aqui os polícias-robôs, também na China

Getty Images

A inteligência é caracterizada pela capacidade de se adaptar à mudança. A inteligência humana é o resultado de gerações de seleção natural daqueles com a capacidade de se adaptarem a circunstâncias alteradas. Não devemos recear a mudança. Temos de fazê-la funcionar a nosso favor.

Todos nós temos um papel quando se trata de assegurar que nós e a próxima geração não temos apenas a oportunidade, mas também a determinação para nos envolvermos completamente no estudo da ciência numa fase precoce, para que possamos concretizar o nosso potencial e criar um mundo melhor para toda a espécie humana. Temos de levar o ensino para além da discussão teórica de como a IA deve ser e de nos assegurarmos que planeamos como ela pode ser. Todos nós temos potencial para empurrar os limites do que é aceite, ou esperado, e para pensar em grande. Encontramo-nos no limiar de um bravo novo mundo. É um sítio entusiasmante, ainda que instável, para se estar, e nós somos os pioneiros.

Quando criámos o fogo fizemos repetidamente asneira, depois inventámos o extintor. Com tecnologias mais poderosas como armas nucleares, biologia sintética e inteligência artificial forte, devemos planear antecipadamente e apontar para termos as coisas bem feitas à primeira, porque poderá ser a nossa única hipótese. O nosso futuro é uma corrida entre o poder crescente da nossa tecnologia e a sabedoria com a qual a utilizamos. Vamos garantir que a sabedoria vence.