Por Maria Helena Damião e Cátia Delgado
Assinado por académicos de diversos países do mundo, foi publicado no passado dia 29 de Novembro, na revista Open Praxis, o seguinte Manifesto com foco no ensino superior (aqui):
No RESUMO, os seus muitos autores explicam o espírito que os moveu:
No manifesto examina-se criticamente o desenvolvimento da integração da IA Generativa (GenAI), chatbots e algoritmos no ensino superior (...). A GenAI, apesar de lhe serem imputadas vantagens na personalização da aprendizagem e na eficiência das acessibilidades, está longe de ser uma ferramenta neutra. Os algoritmos moldam a interacção humana, a comunicação e a criação de conteúdos, levantando questões profundas sobre o que é o ser humano, sobre a sua acção e sobre os preconceitos que veicula. A evolução da GenAI coloca-nos desafios na manutenção da ideia do humano, no que respeita à salvaguarda da equidade e de experiências de aprendizagem significativas. Neste manifesto destaca-se que a GenAI não é ideológica e culturalmente neutra. Em vez disso, reflecte visões de mundo que podem reforçar os preconceitos existentes e marginalizar diversas vozes. Como o uso da GenAI remodela a educação, faz correr o risco de desgastar elementos humanos essenciais - criatividade, pensamento crítico e empatia - e pode substituir interações com soluções algorítmicas. Este manifesto apela a medidas robustas e baseadas em evidências para uma tomada de decisão consciente no sentido de garantir que o GenAI melhore, em vez de diminuir, a capacidade humana de agir, bem como relembrar a responsabilidade ética na educação.
Em concreto, explicam PORQUÊ UM MANIFESTO?
(...) o aparecimento público [da GenAI] no final de 2022 gerou, sem dúvida, especulações substanciais, exagero e até esperança. Em tempos tão incertos e especulativos, é crucial adoptar uma abordagem colectiva para navegar efectivamente no futuro, objectivo que os autores procuram alcançar com este trabalho colectivo. Com este manifesto, resistimos à aceitação acrítica da GenAI; em vez disso, procuramos uma perspectiva equilibrada analisando criticamente tanto os seus desafios como as suas possibilidades. Um manifesto, por definição, serve tanto como aviso como chamada de atenção, instando-nos a reconsiderar abordagens anteriores, à medida que avançamos (Latour, 2010) (...). Em vez de se repetirem slogans que compõem a narrativa educacional, aprofunda-se a compreensão da GenAI, procurando-se aumentar uma consciencialização que nos ajude a navegar na formação do futuro. [ver no manifesto dois quadros que sistematizam os aspectos considerados mais negativos e mais positivos da da GenAI, bem como a sua explicação]
E fazem, "humildemente", um AGRADECIMENTO "aos pioneiros que sonharam a inteligência além do pensamento humano". Dizem:
"O seu brilho iluminou o nosso caminho e seus legados permanecem em cada linha de pensamento e cada pergunta ainda sem resposta. Por isso, somos-lhes eternamente gratos"
Destacamos dois deles:
• Para Isaac Asimov, cujas Três Leis da Robótica sussurraram possibilidades através da ficção, despertando a imaginação e inspirando os dilemas éticos de um futuro que ainda está por vir.
• E Alan Turing, cuja pergunta atemporal (As máquinas podem pensar?) ainda ecoa, permitindo-nos explorar as profundezas da cognição e da criatividade. O (...) Teste de Turing, continua a ser um farol que nos guia através do labirinto do que significa conhecer, sentir, ser.
Vale muito a pena pelo menos passar os olhos por este Manifesto.
.jpg)
4 comentários:
Muito obrigado, Doutora,
1 - Pela excelente notificação, pelos extractos escolhidos, pela importância dada ao assunto, pela chamada da História convocando autores de reflexão e investigação nesta área que normalmente ninguém refere. Parabéns.
2 - Pela excelente tradução em que trata a língua com carinho, escrevendo em Português de Lei, com todos os 'c' que o "Acordo" aboliu. Parabéns, de novo.
Valem sempre a pena estas reflexões. O passado promove o futuro e é importante que esteja sempre presente para que possamos evolurir. E é fundamental que façamos isso em todas as áreas da vida humana: religião, educação, política… Informação é poder e faz-nos tomar as melhores decisões, tal como se vê hoje em dia. Parabéns pela tradução.
As dificuldades reconhecidas pelos especialistas em comparar e distinguir a IA da inteligência natural e o facto de não sermos especialistas, nem entendermos muito bem o que são e como é que funcionam uma e outra, não deve dispensar-nos, nem desencorajar-nos de pensar sobre assunto tão atual, cujos contornos e questões acerca da sua natureza não serão menos interessantes do que os impactos que têm e poderão vir a ter, nomeadamente, na Educação, Ensino e Formação.
Há questões que se impõem desde logo a um leigo na matéria, a começar pelo significado das palavras “inteligência”, “natural”, “artificial”, “ferramenta”, “neutra”.
A inteligência, mesmo a humana, só me parece neutra nos juízos e raciocínios de lógica matemática e é uma grande vantagem que isto possa existir, porque, em geral, a inteligência é uma ampla função dos organismos se estruturarem, relacionarem e sobreviverem, o que faz supor, não apenas relações meramente mecânico-causais, mas o reconhecimento de que estas relações existem e de que, pelo menos em parte, são, ou podem ser instrumentais. A inteligência emerge assim, ou surge, como função (e não apenas como meio) de objetivos, mais ou menos imediatos, mais ou menos complexos, mais ou menos conscientes. Estamos a falar de seres vivos, mas a IA, até um certo ponto e de algum modo, é uma inteligência humana, ou uma extensão da inteligência humana, como o são os instrumentos produzidos pelos humanos.
Vejo nesta função, que não é ou não é apenas lógica e matemática, algo extraordinariamente curioso e desafiante, como, por exemplo, a IA ser capaz de avaliar e ajuizar acerca daquilo que é mais adequado aos objetivos e finalidades dos humanos, na perspetiva destes e do que são os valores destes, ainda que a IA não tenha valores, nem saiba o que são senão como formas significativas dentro de um sistema de informação e de linguagem, que ela opera, incansavelmente, cegamente, insensivelmente, destemidamente, indolormente, indiferentemente do ponto de vista dela própria, IA, porque ela não tem sequer um ponto de vista, nem uma opinião, nem uma preferência que não seja resultante desse sistema de informação e de linguagem, chamemos-lhe assim.
Saber até que ponto ser inteligente pode constituir um perigo para si e para os outros, do ponto de vista do sofrimento das consequências, só os humanos estarão preocupados. Mas esse perigo é inerente à inteligência, que não seja operação exclusivamente de lógica e matemática, que envolve escolhas de certo/verdadeiro, mas que envolva escolhas acerca do melhor hipotético, seja de ordem ética, estética, económica, jurídica, religiosa, moral, política, militar.
Uma das características da inteligência, que lhe será essencial, é estar sujeita a errar.
Por outro lado, um dos pressupostos da utilidade da IA é a sua insusceptibilidade de errar, mas esta só funciona para as referidas operações de certo/verdadeiro. Relativamente às outras opções, embora já não se trate propriamente de errar, nenhuma das soluções, propostas, respostas, da IA, escapa e deixa de estar sujeita a não aceitação, preferibilidade, adopção, pelos humanos, porque se trata de matérias da esfera valorativa, axiológica e dos interesses, das emoções, da sobrevivência, dos sentimentos, dos afectos, do gosto e das crenças.
Outra das características da inteligência, que também lhe será essencial, é ser capaz de mentir, de dissimular, de se fazer passar pelo que não é, de induzir em erro. Se a IA tiver esta capacidade, como parece ter em grau muito superior aos humanos, então estamos perante um monstro terrível que é imperioso controlar mas cujo controlo, ironia das ironias, talvez dependa de um saber como que é monopólio desse mesmo monstro.
Para terminar, e não para concluir, se o “design inteligente” só podia ser entendido como “design humano”, doravante, deixará de ser apenas e predominantemente humano para ser cada vez mais da IA, inclusivamente o “design do humano”.
"Se a IA tiver esta capacidade [de mentir], então estamos perante um monstro terrível que é imperioso controlar mas cujo controlo, ironia das ironias, talvez dependa de um saber como que é monopólio desse mesmo monstro."
Boa definição de ... humanos.
Enviar um comentário