"O TRABALHO DE HISTORIADORES E FILÓSOFOS (...) É APONTAR OS PERIGOS"

Com a reprodução de um quadro de Jan Saenredam que retrata a “Alegoria da Caverna de Platão” (1604), o Expresso desta semana republicou, na tradução de Joana Henriques, um artigo de Yuval Noah Harari, antes saído no The Economist, sobre a (eventual) reconfiguração do ser humano (e da humanidade) em virtude do assombroso desenvolvimento dos mecanismos de Inteligência Artificial.

Independentemente de concordarmos com as interpretações e posições teóricas do historiador, a verdade é que se trata de alguém bem informado na sua disciplina e noutras que lhe são conexas, como a filosofia, a antropologia. Isso deve levar-nos a ler com cuidado o que escreve sobre o assunto. 

Tomo, por isso, a liberdade de transcrever algumas passagens desse artigo.

"O receio em relação à inteligência artificial (IA) tem assombrado a Humanidade desde o início da era dos computadores (...) mas ao longo dos últimos dois anos surgiram novas ferramentas que ameaçam a sobrevivência da civilização humana vindas de onde menos se esperava. A IA ganhou algumas habilidades notáveis para manipular e gerar linguagem, seja com palavras, sons ou imagens. A IA pirateou o sistema operacional da nossa civilização. 

A língua é o material sobre o qual quase toda a cultura humana se baseia (...). O que poderá acontecer quando uma inteligência não humana se torna melhor do que o ser humano médio a contar histórias, compor melodias, desenhar imagens e escrever leis? 

Quando pensamos sobre (...) novas ferramentas de IA, pensamos em exemplos como o dos alunos que usam a IA para escrever os seus trabalhos da escola (...). Mas esse tipo de pergunta não abrange o panorama geral (...). Pensem nas próximas eleições presidenciais americanas, em 2024, e tentem imaginar o impacto das ferramentas de IA, que podem ser criadas para produzir conteúdo político em massa, histórias de notícias falsas e escrituras para novos cultos. 

(...) O culto QAnon une-se em torno de mensagens online anónimas, conhecidas como “q drops”. Os seguidores recolhem, veneram e interpretam estes “q drops” como se fossem um texto sagrado. Até agora, tanto quanto sabemos, todos os “q drops” eram criados por humanos e os bots simplesmente ajudaram a disseminá-los, no futuro podemos assistir aos primeiros cultos da história cujos textos sagrados foram escritos por uma inteligência não humana.

As religiões ao longo da história reivindicaram uma fonte não humana para os seus livros sagrados. Em breve isso pode ser uma realidade. 

Num nível mais prosaico, em pouco tempo podemos estar a manter longas discussões online sobre o aborto, alterações climáticas ou a invasão russa da Ucrânia com entidades que pensamos serem humanos, mas são, na realidade, IA. O problema é que é absolutamente inútil gastarmos o nosso tempo a tentar mudar as opiniões declaradas de um bot uma vez que a IA poderá aprimorar as suas mensagens de forma tão precisa que existe a possibilidade de nos influenciar (...).

Embora não haja nenhuma indicação de que a IA tenha qualquer tipo de consciência ou sentimentos, o promover uma intimidade falsa com os seres humanos é suficiente, se fizer com que se sintam emocionalmente ligados a si (...). Numa batalha política para conquistar mentes e corações, a intimidade é a arma mais eficiente e a IA acaba de ganhar a capacidade de criar, em massa, relações íntimas com milhões de pessoas. 

Todos sabemos que ao longo da última década as redes sociais se tornaram um campo de batalha para controlar a atenção humana. Com a nova geração de IA, a frente de batalha está a passar da atenção para a intimidade. 

O que acontecerá com a sociedade e psicologia humanas à medida que as diferentes IA lutam entre si para conseguir formar falsas relações íntimas connosco, que podem depois ser usadas para nos levar a votar em políticos específicos ou comprar produtos específicos? 

Mesmo sem criar uma “intimidade falsa”, as novas ferramentas de AI teriam uma imensa influência nas nossas opiniões e visões de mundo. As pessoas podem passar a consultar apenas uma IA como um oráculo único e omnisciente. Não admira que a Google esteja apavorada. Para que é que me vou dar ao trabalho de pesquisar, se posso simplesmente perguntar ao oráculo? As empresas de comunicação social e publicidade também devem estar aterrorizadas. Para quê ler um jornal se posso apenas pedir ao oráculo para me contar as últimas notícias? E para que servem os anúncios, se posso simplesmente pedir ao oráculo para me dizer o que comprar? E mesmo estes cenários imaginários não captam verdadeiramente o panorama geral. 

Aquilo de que estamos a falar é, potencialmente, do fim da história da humanidade (...) o fim da sua parte dominada pelo homem. A história é a interação entre biologia e cultura; entre as nossas necessidades biológicas, e desejos por coisas como comida e sexo, e as nossas criações culturais, como religiões e leis (...).

O que acontecerá com o rumo da história quando a IA tomar conta da cultura e começar a produzir histórias, melodias, leis e religiões? Ferramentas anteriores, como a imprensa gráfica e a rádio, ajudaram a espalhar as ideias culturais dos seres humanos, mas nunca criaram novas ideias culturais próprias. A IA é fundamentalmente diferente, pode criar ideias completamente novas, uma cultura completamente nova. 

No início, a IA provavelmente imitará os protótipos humanos em que foi treinada na sua infância. Mas a cada ano que passa (...) vai corajosamente até onde nenhum ser humano já foi. Há milénios que os seres humanos vivem dentro dos sonhos de outros seres humanos. Nas próximas décadas podemos dar por nós a viver dentro dos sonhos de uma inteligência alienígena. 

O medo da IA assombra a humanidade há apenas algumas décadas, mas durante milhares de anos os seres humanos foram assombrados por um medo muito mais profundo (...) desde os tempos antigos, os humanos temeram estar presos num mundo de ilusões (...). Na Grécia antiga, Platão contou a famosa alegoria da Caverna, na qual um grupo de pessoas estão acorrentadas dentro de uma caverna durante toda a sua vida, de frente para uma parede em branco. Um ecrã. Nesse ecrã veem várias sombras projetadas. Os prisioneiros confundem as ilusões que ali veem com a realidade (...). 

Se não tivermos cuidado, podemos ficar presos atrás de uma cortina de ilusões, que não conseguimos rasgar nem mesmo perceber que ali está. Claro que o novo poder da IA também poderia ser usado para o bem. 

Não vou refletir sobre isso, porque as pessoas que desenvolvem a IA já o fizeram que chegue. O trabalho de historiadores e filósofos como eu é apontar os perigos. 

Certamente que a IA pode ajudar-nos de inúmeras maneiras, desde encontrar novas curas para o cancro até descobrir soluções para a crise ecológica. A pergunta que enfrentamos é como garantir que as novas ferramentas de IA são usadas para o bem e não para o mal. 

Para tal, primeiro precisamos compreender as verdadeiras capacidades dessas ferramentas.

Desde 1945 que sabemos que a tecnologia nuclear poderia gerar energia barata para o benefício dos seres humanos, mas também poderia destruir fisicamente a civilização humana. Por conseguinte, reformulámos toda a ordem internacional para proteger a humanidade e para garantir que a tecnologia nuclear fosse utilizada principalmente para o bem (...). 

Ainda vamos a tempo de regular as novas ferramentas de IA, mas temos de agir rapidamente. Enquanto as bombas atómicas não conseguem inventar bombas atómicas mais poderosas, a IA consegue criar uma IA exponencialmente mais poderosa. O primeiro passo essencial é exigir verificações de segurança rigorosas antes das poderosas ferramentas de IA serem lançadas para o domínio público (...). Precisamos de um equivalente da Food and Drug Administration para novas tecnologias e precisamos dele para ontem (...). 

A implementação de IA não regulamentada criaria o caos social, que beneficiaria os autocratas e arruinaria as democracias. A democracia é um diálogo e os diálogos dependem da linguagem. Quando a IA modifica a linguagem, pode destruir a nossa capacidade de ter diálogos importantes, destruindo assim a democracia. 

Acabámos de encontrar uma inteligência alienígena, aqui na Terra (...). Devíamos pôr um travão à [sua] implementação irresponsável (...) antes que seja ela a regulamentar-nos a nós. E o primeiro regulamento que gostaria de sugerir é que seja obrigatório uma IA dizer que é uma IA. Se estou a conversar com alguém e não consigo perceber se é um ser humano ou uma IA, esse é o fim da democracia."