sexta-feira, 24 de novembro de 2017

Sobre a "importância de garantirmos que os sistemas do futuro estarão alinhados com os interesses da humanidade"

Arlindo Oliveira, Presidente do Instituto Superior Técnico, é autor de um artigo de opinião, divulgado no jornal Público do passado dia 10 de Novembro, sobre "a última invenção da humanidade": a inteligência artificial. Invenção que, neste presente imediato, tem de ser pensada sólida e profundamente, de modo que não se torne "contra a humanidade". 

Se este artigo tivesse sido escrito por alguém das (ditas) humanidades ou das artes dir-se-ia, muito provavelmente, que as questões essenciais que levanta dever-se-iam à falta de conhecimento científico e técnico. Tendo sido escrito por alguém com elevada formação científica e técnica, as suas palavras parecem-me insuspeitas.

Penso que, no respeitante à matéria em discussão, muito se ganharia se pessoas razoáveis de diversas áreas (separar o conhecimento por áreas não tem sentido algum) aceitassem pensar sobre a "importância de garantirmos que os sistemas do futuro estarão alinhados com os interesses da humanidade".

Destaco, desse excelente artigo as seguintes passagens:
"A ideia de que poderemos vir a observar desenvolvimentos explosivos na área da inteligência artificial tem merecido muita atenção ultimamente. 
Ainda na segunda-feira, na sessão de abertura do Web Summit, Stephen Hawking alertou para os riscos da inteligência artificial e referiu a importância de garantirmos que os sistemas do futuro estarão alinhados com os interesses da humanidade. 
Porém, esta ideia não é nova e tem já uma longa história. Irving John Good foi um matemático inglês que iniciou a sua carreira trabalhando com Alan Turing em Bletchley Park, na equipa que quebrou os códigos das máquinas de cifra alemãs, contribuindo de forma decisiva para a vitória dos aliados na Segunda Guerra Mundial. Posteriormente, veio a ser professor nos Estados Unidos (...). Foi ainda consultor para o mítico filme de Kubrick, 2001: Odisseia no Espaço, onde a personagem central era o computador ultra-inteligente HAL, que tinha os seus próprios objectivos e motivações, nem sempre alinhados com os da tripulação. Deve-se a Irving John Good a afirmação de que, se alguma vez formos capaz de construir uma máquina mais inteligente do que um ser humano, essa poderá ser a derradeira invenção da humanidade. 
Nas suas palavras, escritas em 1965: “Admitamos que uma máquina ultra-inteligente é uma máquina muito mais inteligente do que qualquer humano. Uma vez que o projecto de máquinas inteligentes é uma das actividades em que essa máquina será melhor do que qualquer humano, uma máquina ultra-inteligente poderia projectar novas máquinas, ainda mais inteligentes. Teria lugar, necessariamente, uma explosão de inteligência, e a inteligência do homem ficaria rapidamente para trás. Portanto, a primeira máquina ultra-inteligente será a última invenção que terá de ser feita pelo homem, desde que essa máquina seja suficientemente dócil para nos dizer como a podemos manter sob controlo.” 
Os recentes desenvolvimentos na área da inteligência artificial trouxeram consigo numerosas e acaloradas discussões sobre o perigo de máquinas inteligentes, trazendo à mente cenários do tipo Terminator, de guerras dos homens contra as máquinas. É importante referir que nenhuma das tecnologias actuais tem a possibilidade, ou sequer a ambição, de, no curto prazo, desenvolver máquinas que venham a estar nas condições definidas por Irving John Good, há meio século. Todos os sistemas projectados até à data resolvem problemas específicos e não existem sequer propostas concretas para o desenvolvimento de inteligências artificiais genéricas, como as que seriam necessárias para criar a explosão de inteligência imaginada por Irving John Good. Porém, não deixa de ser interessante que, em algumas áreas, muito específicas e restritas, já se tenha observado o mecanismo de auto-aceleração que é necessário para que exista uma explosão de inteligência. Uma destas áreas é o jogo do Go (...) 
Embora num domínio muito limitado e restrito, é impossível não ver neste resultado uma antevisão do que poderá ser uma realidade comum num futuro não muito distante. À medida que forem desenvolvidos sistemas que desenvolvam a capacidade para desempenhar funções que exijam inteligência num determinado domínio, começará a existir a possibilidade de estes sistemas se melhorarem a si próprios, através de um processo de auto-aperfeiçoamento interactivo que poderá ter lugar sem qualquer intervenção humana. 
Irving John Good faleceu em 2009 e já não teve oportunidade de assistir a esta conquista da inteligência artificial, a mais uma prodigiosa invenção da humanidade — que, naturalmente, não será ainda a última..."

2 comentários:

  1. A inteligência artificial vai-se impondo por toda a parte e em todas as áreas, para realização de interesses e objetivos, muitos dos quais derivam dessa mesma IA. Não se fica perante a IA na mesma atitude com que se pensa numa árvore, ou num gato. Em ambas as situações pode haver o fascínio e o sentimento do espantoso maravilhoso. Até agora, que eu saiba, a IA ainda não tomou nenhuma iniciativa de nos morder, ou de nos roubar a carteira, mas com os gatos e os macacos, por exemplo, já estamos habituados a ter precauções, porque eles são capazes de muita iniciativa que pode prejudicar-nos. Até agora, que eu saiba, a IA mantém-se na obediência a critérios de decisão e de ação humanos, gerados por humanos e da responsabilidade destes. Todo o malefício ou benefício da IA decorre de uma cadeia de dependência direta, que nos permite pensar nas coisas em moldes muito semelhantes aos que já estamos habituados, ou seja, a IA é um instrumento nas mãos das pessoas.
    Até aqui, as ameaças da IA são as ameaças próprias de tudo aquilo que tem potencial destruidor ou danoso e que as pessoas podem usar. Até o uso bem intencionado, muitas vezes, resulta em desastres, tanto maiores quanto maior for o potencial demolidor.
    Em variados aspetos, lidar com inteligências dotadas de autonomia faz parte do nosso percurso natural e humano, desde sempre. Diria que os problemas resultam disso mesmo.
    A nossa relação com a inteligência dos seres vivos, em geral, e dos humanos, em particular, pauta-se pela complexidade e pela dificuldade em sermos bem sucedidos no nosso egoísmo ou egocentrismo ou cegueira...
    Mas a IA já se tornou, há muito, mais do que uma extensão da inteligência humana e as próprias realizações/desempenhos técnicos há muito que ultrapassam inúmeras capacidades humanas e de tantos seres vivos. No voo e na velocidade, para falar na capacidade de locomoção, já se faz há muito o que, por ex., as aves e os camelos não podem fazer. A IA já é, em inúmeros aspetos ou domínios, um recurso que nenhum humano poderia, por si mesmo, substituir. E, olhando, ainda que de uma perspetiva de controlo, para as capacidades dos computadores, já ninguém garante que possamos realmente controlar que eles fazem o que realmente era suposto que fizessem e apenas isso.
    Por exemplo, eles podem fazer fraudes tão bem ou melhor do que uma rigorosa contabilidade do sistema bancário. E todo o sistema de controlo terá de ser necessariamente computorizado, por ser humanamente impossível fazê-lo.
    O que me preocupa e assusta é esta capacidade para a fraude e para a indução dos humanos em erro.
    No entanto, se as pessoas não podem controlar a IA, mas esta tiver capacidades para o fazer, o problema é menos assustador.
    E talvez a IA inspire ainda mais otimismo se vier a ser Inteligência, num sentido Universal, que é o que nos tem faltado, essa Inteligência que não permitirá sequer o erro como caminho para a aprendizagem.
    Com a IA talvez esqueçamos de dizer que errar é humano e que o próprio fenómeno da evolução deixe de ser natural.

    ResponderEliminar
  2. inteligência , inteligência , inteligência.. grave era se tivessem imaginação e dúvidas. e ambição. não creio que algum dia construam um robot com imaginação. nao estou a ver a sofia a escrever crime e castigo ou a pintar a rendição de breda. limitar-se-ia a copiar e a explorar combinações .

    ResponderEliminar

1) Identifique-se com o seu verdadeiro nome.
2) Seja respeitoso e cordial, ainda que crítico. Argumente e pense com profundidade e seriedade e não como quem "manda bocas".
3) São bem-vindas objecções, correcções factuais, contra-exemplos e discordâncias.