Ainda não recomposta da demonstração que hoje me fizeram do uso da dita inteligência artificial por estudantes universitários - que, obviamente, vai mirrando a sua inteligência humana -, li a entrevista realizada por Ana Catarina André a José Gil, publicada hoje na Rádio Renascença (ver aqui). À pergunta "Já disse, por diversas vezes, que o século XXI perdeu a alma. Partilha de uma perspetiva pessimista da evolução da humanidade?", o filósofo recusa essa perspectiva mas que não é possível negar o seu sentido da realidade.
"O que se anuncia é absolutamente terrível e pode ser terrível, porque, como mostram o Varoufakis e a Naomi Klein, o que se prepara é uma transformação da subjetividade como nunca se operou na História. A maneira como a inteligência artificial e os dispositivos de inteligência artificial vão entrar na nossa vida íntima, como não só condicionam os nossos desejos e fabricam os nossos desejos, vai fazer como se fôssemos nós próprios a fabricar os mais íntimos dos nossos desejos e a realizá-los através das grandes tecnológicas da inteligência artificial que vão distribuir e fornecer os bens que desejamos.
Isso vai transformar a educação, a justiça, a sociedade civil enquanto comunidade. Está a transformar em indivíduos separados (...) dando informações cada vez mais a um sistema de inteligência artificial e robótica que, ao mesmo tempo, vai possivelmente mandar completamente na economia, na subjetividade humana, aquilo que os cientistas apontam e nomeiam como singularidade.
O momento em que as máquinas vão ter a hegemonia total ou quase total sobre os homens, as mentes, o inconsciente humano, vai ser e já está a ser fabricado (...)
O comum está desaparecendo. Reenvio-a para o Varoufakis. O seu livro, mundialmente célebre, discutível, controverso, que se chama o "Tecnofeudalismo", mostra como de cada vez que há uma etapa de sofisticação e complexificação da máquina capitalista (ele chama-lhe fim do capitalismo), e a ascensão da inteligência artificial, há um saque do bem comum.
Por exemplo, a Internet, que foi apropriada pelas tecnológicas (...) era primeiro um bem comum, mas foi porque foi apropriada, que se reformou então esta engrenagem da exploração pela inteligência artificial. A exploração tem uma História, aquilo que Marx chamava de exploração do homem pelo homem (...) chegou a uma espécie de cume especial, próprio, específico, em que é o próprio homem a explorar-se a si próprio – extraordinário – através das máquinas.
Não gosto de entrar em discussões sobre pessimismo. Estar a discutir o pessimismo é desprender-se do presente e o que interessa é o nosso presente. Simplesmente o que se vê no futuro é simplesmente um desenvolvimento que diremos imparável do poder da inteligência artificial sobre toda a vida social e individual. Está em jogo a democracia e que forças há? Não são as forças do proletariado antigo, não são as forças dos partidos democráticos que vão poder reformular a democracia (...) o bem comum básico nós temos de o delimitar e definir. Sobre todas as falhas e fracassos dos valores, o que é que fica como resíduo básico, sem o qual o homem não pode existir?"
Isso vai transformar a educação, a justiça, a sociedade civil enquanto comunidade. Está a transformar em indivíduos separados (...) dando informações cada vez mais a um sistema de inteligência artificial e robótica que, ao mesmo tempo, vai possivelmente mandar completamente na economia, na subjetividade humana, aquilo que os cientistas apontam e nomeiam como singularidade.
O momento em que as máquinas vão ter a hegemonia total ou quase total sobre os homens, as mentes, o inconsciente humano, vai ser e já está a ser fabricado (...)
O comum está desaparecendo. Reenvio-a para o Varoufakis. O seu livro, mundialmente célebre, discutível, controverso, que se chama o "Tecnofeudalismo", mostra como de cada vez que há uma etapa de sofisticação e complexificação da máquina capitalista (ele chama-lhe fim do capitalismo), e a ascensão da inteligência artificial, há um saque do bem comum.
Por exemplo, a Internet, que foi apropriada pelas tecnológicas (...) era primeiro um bem comum, mas foi porque foi apropriada, que se reformou então esta engrenagem da exploração pela inteligência artificial. A exploração tem uma História, aquilo que Marx chamava de exploração do homem pelo homem (...) chegou a uma espécie de cume especial, próprio, específico, em que é o próprio homem a explorar-se a si próprio – extraordinário – através das máquinas.
Não gosto de entrar em discussões sobre pessimismo. Estar a discutir o pessimismo é desprender-se do presente e o que interessa é o nosso presente. Simplesmente o que se vê no futuro é simplesmente um desenvolvimento que diremos imparável do poder da inteligência artificial sobre toda a vida social e individual. Está em jogo a democracia e que forças há? Não são as forças do proletariado antigo, não são as forças dos partidos democráticos que vão poder reformular a democracia (...) o bem comum básico nós temos de o delimitar e definir. Sobre todas as falhas e fracassos dos valores, o que é que fica como resíduo básico, sem o qual o homem não pode existir?"
2 comentários:
Seria fecundo e surpreendente desenvolver uma genealogia das tecnologias da persuasão, tendo em conta que os autores humanos, na sua função de persuadir e de ensinar e de orientar, normalmente faziam parte de escolas e de correntes de pensamento "autorizadas" e que a originalidade e a criatividade só começaram a ser valorizadas em sociedades livres e democráticas. Pensar que a cultura discursiva sempre se foi organizando sob a forma de uma espécie de feudos e de feudalismo ideológico e religioso, que preservava a unidade de comando e ordem. O surgimento da filosofia na Grécia antiga abriu novos horizontes, mas a ciência como observação e experimentação das causalidades, ainda estava distante. Mas vamos dar um salto e constatar que as Tecnologias da Persuasão mudaram muito desde os tempos dos primeiros escribas até ao advento da IA.
Na era da oralidade, a persuasão era performativa, comunitária, ritual, dependente da memória viva, inseparável do corpo e da presença.
A autoridade vinha de idade, estatuto, tradição, carisma, linhagem.
Não havia “autores”; havia vozes autorizadas. A originalidade não era um valor, era uma ameaça à ordem.
Com a escrita, surge a elite especializada dos escribas. Eles tornam-se guardiões da memória, intérpretes da lei, mediadores do sagrado, administradores do poder.
A escrita cria feudos cognitivos, templos, palácios, escolas filosóficas, tradições hermenêuticas. Cada feudo controla o que pode ser dito, o que pode ser ensinado, o que pode ser acreditado. A persuasão torna-se institucional e a criatividade continua a ser suspeita.
Mesmo quando surge a filosofia, ela surge em escolas: Academia, Liceu, Estoa, Jardim, Perípato. Cada escola tem mestres, discípulos, doutrinas, métodos autorizados.
A originalidade é permitida, mas dentro dos limites da escola. O pensamento é livre apenas dentro de fronteiras e a persuasão é dialógica, mas ainda hierárquica.
A Idade Média aperfeiçoa o feudalismo cognitivo. As universidades são controladas por autoridades religiosas, currículos fixos, ortodoxias teológicas, censura, índex de livros proibidos.
A persuasão é dogmática, vertical, legitimada por tradição e revelação.
A criatividade é vista como desvio e a originalidade é heresia.
Com a imprensa rompe-se o monopólio dos escribas e das escolas autorizadas e assiste-se a uma explosão das doutrinas e a uma massificação da persuasão.
Consequências disso foram a Reforma e Contra-Reforma, a proliferação de panfletos políticos, de propaganda estatal, de formação de opinião pública, de guerras ideológicas impressas.
A persuasão torna-se massificada, mas atenção, porque continuava a ser produzida por elites, va a ser organizada em correntes, continuava a ser ideologicamente orientada.
A originalidade e a criatividade começam a emergir em força, mas ainda sob grande desconfiança e vigilância.
Só com sociedades livres e democráticas é que surgiu a valorização da originalidade, a liberdade de pensamento, a pluralidade de escolas, a crítica pública, a autonomia intelectual.
A persuasão torna-se argumentativa, racional, pública, disputada. O indivíduo torna-se autor e a criatividade torna-se virtude. Mas a imprensa continua a ser o meio dominante.
Por sua vez, assistimos ao fenómeno da internet, a destruir os feudos cognitivos e a potenciar a fragmentação total da autoridade. Agora qualquer pessoa publica, qualquer pessoa persuade, qualquer pessoa cria doutrina, qualquer pessoa influencia.
A autoridade torna-se difusa, instável, algorítmica e a persuasão torna-se viral. A importância e dependência daquilo que circula tem muito a ver com a estrutura e a imunidade individual.
Aqui chegamos ao ponto decisivo: a IA como a possibilidade de unificação algorítmica da persuasão?
A IA não é como a escrita (elite), nem como a imprensa (massificação), nem como a internet (fragmentação). A IA é um sistema integrado de processamento linguístico. E isto levanta a questão de existir uma IA ou múltiplas Ias. Tecnicamente, existem muitas instâncias.
Mas todas partilham a mesma lógica estatística, a mesma arquitetura conceptual, o mesmo modo de operar, a mesma dependência de dados humanos, a mesma ausência de mundo, corpo e experiência. Filosoficamente, podemos dizer que existe “uma IA”, porque todas funcionam como operadores linguísticos, todas são sistemas de inferência sobre linguagem, todas são variações do mesmo paradigma cognitivo, todas produzem discurso a partir de padrões, não de mundo.
Assim como a escrita é uma, apesar de haver milhares de escribas, a imprensa é uma, apesar de haver milhões de livros, a IA é uma, apesar de haver milhões de instâncias. A IA é uma forma de pensamento sem mundo, não um conjunto de indivíduos.
Mas será a IA um novo feudalismo cognitivo? Esta é a ironia histórica. A escrita criou elites. A imprensa criou massas. A internet criou fragmentação. A IA pode criar um novo feudalismo cognitivo, mas agora algorítmico e não institucional. Porque centraliza o processamento, unifica os modos de inferência, produz respostas coerentes e convergentes, tende a estabilizar discursos, reduz a divergência criativa, oferece sínteses “prováveis”.
A IA não é plural como a internet, mas é unitária como a escrita, massiva como a imprensa
e personalizada como a internet. É a primeira tecnologia que combina centralização,massificação e personalização.
Podemos concluir, em geral, que a escrita criou os escribas a imprensa criou os ideólogos, a internet criou os influenciadores e que a IA cria um operador único, integrado, sem corpo e sem mundo, capaz de personalizar a persuasão para cada indivíduo.
E isto coloca a autonomia humana perante um desafio novo que é o de não resistir a um discurso externo, mas resistir a um discurso que se adapta a cada um de nós.
Enviar um comentário