MINHA ENTREVISTA AO CM SOBRE IA

 ENTREVISTA QUE DEI A FERNANDA CACHÃO, JORNALISTA DO  CM, SOBRE IA

Carlos Fiolhais, Março de 2024

1.     FC- Durante a última semana, quantos sistemas de IA fizeram parte do seu quotidiano e em que circunstâncias?

CF- Quando quero usar o meu telemóvel ele reconhece-me graças a tecnologia de IA. Quando pesquiso no Google, é considerada a minha actividade prévia. Um sistema anti-SPAM afasta o correio desejado. Quando vejo o Facebook, a IA escolheu, por mim, a minha selecção de posts. O mesmo quando consulto a Amazon: eles antecipam aquilo que eu quero comprar. Fraudes em compras electrónicas são impedidas por IA. Chego melhor de um sítio a outro usando a IA. Sistemas de IA permitem traduções mais rápidas, assim como correcções ortográficas. E isto sem falar do ChatGPT, que uso pouco, mas que pode dar jeito para uma primeira pesquisa sobre qualquer tema. Portanto, a IA já está há muito nas nossas vidas.

2.      FC- Quer explicar o que é um algoritmo e como é que ele impacta na IA?

CF- Um algoritmo é uma sequência de instruções para obter um determinado resultado. Não tem de ser num computador: por exemplo, uma receita de bacalhau à Gomes de Sá. Os programas de computadores são exemplos de algoritmos. A «aprendizagem automática» (machine learning) da IA usa algoritmos. A diferença entre os programas de IA e os tradicionais, é que os primeiros aprendem, isto é, mudam à medida que são usados. Os computadores estão nisso a imitar os seres humanos, embora de forma limitada. Para uma entrada, um certo algoritmo não dá sempre a mesma saída, porque é «plástico». Uma das questões discutidas hoje é a transparência dos algoritmos de IA. Alguns deles são «caixas negras», o que causa desconforto a muitos. Funcionam, mas ninguém sabe muito bem o que lá está dentro. À semelhança do que acontece no cérebro humano, assistimos a decisões automáticas sem conseguir indicar como foram geradas.

3.      FC- Quando lê sobre a multiplicidade de investidores, e sua proveniência, nas empresas de IA, como por exemplo a OpenAI, o que pensa?

 CM- As grandes empresas de IA são as cinco que dominam há anos o mundo informático e a economia mundial: a Microsoft, a Apple, a Amazon, a Alphabet (da Google), a Meta Platforms (do Facebook), todas elas no top 10 das maiores empresas.  Há ainda, nesse top, a empresa de hardware NVIDIA, que começou por fazer placas para jogos e agora está lançada na AI com enormes lucros. A OpenAI é nova, está a subir muito, mas pertence em boa parte à Microsoft. Há poucas empresas europeias competitivas em IA e algumas delas funcionam com capital americano (por exemplo, a francesa Mistral). A China é uma outra história, pois tem empresas com domínio ou supervisão estatal. Na IA como noutras áreas há um confronto entre os EUA e a China. As referidas empresas ocidentais, todas elas sedeadas na costa oeste americana, são mais poderosas do que a maioria dos países. Por exemplo, só seis países têm PIB superior ao valor da Microsoft. Nesta era de capitalismo global, há óbvias questões de soberania: o poder deixou de residir apenas nos Estados. Ora estes podem ser democráticos, mas as grandes empresas não são. Têm por meta o maior lucro e não o bem comum.  Os Estados, que devem defender o bem comum, estão a responder com atraso às inovações tecnológicas…

 FC- Faz sentido criar regras para monitorizar sistemas de IA?

CF- A regulação não só faz sentido, como é essencial. São as próprias empresas que a pedem para poderem jogar dentro das regras. O Presidente Biden assinou em 2023 uma ordem executiva sobre a segurança da IA, protegendo a privacidade e os direitos dos cidadãos. A União Europeia criou uma regulação baseada no tipo de risco. A UNESCO também fez recomendações éticas para a IA. O Papa apelou a que a IA sirva as causas da fraternidade e da paz.

FC - Quais são as principais questões éticas e legais que se colocam atualmente perante os sistemas de IA?

 CF- A tecnologia avança muito mais depressa do que a ética e o direito. Estes vêem-se obrigadas a correr atrás das inovações, por vezes a correr «atrás do prejuízo». A Europa tomou como prioridade a regulação, que é indispensável, aqui como noutros lados. Temos de prestar mais atenção às questões morais e legais, para alinhar os interesses económicos com os valores humanos. Uma coisa é o que se pode fazer e outra, muito diferente, é o que devemos fazer. Temos de evitar os maus usos da IA, proibindo mesmo alguns deles. Entre os perigos está o da quebra de privacidade. Aí, somos cúmplices porque damos os nossos dados em troca de uma suposta gratuitidade. Mas, para mim, o maior perigo é a intoxicação maciça com falsas notícias na Internet, o que não só mina a democracia como pode provocar conflitos. O problema da regulação não é novo: quando foram inventados os carros tivemos de criar códigos para evitar o caos nas estradas. Como é sabido, apesar de todas as normas, de vez em quando há asneiras. Espero que com a IA não haja grandes asneiras. E, se as houver, teremos de aprender com elas. Deverá também haver uma preocupação com a democratização do acesso para que a desigualdade já gritante entre ricos e pobres não cresça.

 FC- A IA é com certeza uma oportunidade de desenvolvimento nas mais variadas áreas. Como é que o país se deve posicionar? 

CF- A área de IA está em franco progresso, com aplicações como o ChatGPT. As máquinas criam textos, imagens e sons, semelhantes aos das criações humanas. A fronteira entre o real e o virtual está a esbater-se. Há possibilidades enormes e também cuidados a ter. Nesta área, poderíamos mobilizar investigadores para um centro interdisciplinar nacional. Aí teriam lugar pessoas da matemática, da física e da engenharia, mas também das ciências sociais e humanas e das artes. Muitos cientistas estão de costas uns para os outros e há aqui uma possibilidade de trabalho conjunto.

FC - "A inteligência artificial depende de milhões de microtrabalhadores pobres", disse, recentemente, ao Expresso o sociólogo Antólio Casilli, que defende que a IA não destrói o emprego, mas torna-o mais precário informal. Enquanto cientista como interpreta estes impactos da IA?

 CF- É difícil fazer previsões sobre o impacto da IA no emprego. Mas as grandes inovações sempre trouxeram mudanças nas profissões: umas acabaram e outras surgiram. No cômputo geral, não foi mau. Com as máquinas a vapor deixámos de ter necessidade da força animal ou humana. E as profissões passaram a exigir mais qualificações. Agora com a IA, tarefas repetitivas estão a ser feitas automaticamente, ainda que sejam de escritório. Ficarão as profissões mais criativas e que lidem mais com coisas humanas, como a alimentação ou a saúde. Talvez tenhamos menos tempo de trabalho, o que não é necessariamente mau. Casilli levanta um ponto relevante: há uma multidão de operadores humanos, mal pagos, que ajudam no treino de sistemas de IA: por exemplo, confirmam se uma imagem foi bem vista pela máquina. A economia é um domínio da política e, por isso, está para além da ciência e tecnologia. 

FC- Na próxima década, quais são as áreas em que a IA deverá ter maior impacto?

CF- O impacto é transversal a várias áreas. Existe grandes potencial na saúde, como diagnósticos automáticos, descoberta de novos fármacos e apoio psicológico. Os serviços de justiça podem ser mais rápidos e mais baratos. A educação vai ser afectada, com os professores, sempre imprescindíveis, a adaptarem-se. Já há e vai haver mais carros com condução autónoma. Serviços como banca, seguros, energia e outros serviços públicos podem ser mais automatizados. Em contraste, as áreas menos afectadas serão aquelas que envolvam mais criatividade humana, como as artes e a diversão.  As máquinas não são boas a fazer piadas…

FC- Como imagina a vida dos seus bisnetosCF- Haverá coisas que já começamos a ver hoje, como carros sem condutor, novos diagnósticos médicos e assistentes virtais, etc. A tecnologia continuará a evoluir rapidamente, mas o ser humano é mais lento. Aproveitemos essa lentidão a nosso favor, para fazermos boas escolhas. Os humanos devem fazer escolhas humanas.

FC- Se tivesse de aconselhar uma área profissional de futuro a um adolescente, o que lhe diria?

CF- Que vá atrás do seu sonho.