Deixei de ler praticamente tudo aquilo que tem a ver com a designada inteligência artificial generativa (erradamente assim designada, pelo menos do ponto de vista da Psicologia e da Educação, em que me movo). Não me interessa como "instrumento" de trabalho ou do que quer que seja (admito, porém, que outros profissionais a usem com proveito).
Interessa-me apenas e só como artefacto de produção humana para produção humana e foi neste enquadramento que li um artigo saído recentemente no semanário Expresso com o título "Quem tem medo de escrever bem?" e de acesso aberto. Assina-o Maria C. Maltez, professora de Português e formadora em inteligência artificial generativa. Dada a relevância que lhe reconheço, transcrevi uma parte substancial do mesmo para este blogue (os destaques são meus):
"Os conselhos repetem-se: evitar travessões, reduzir conectores, fugir a certas construções sintáticas ou rejeitar os dois pontos para que um texto não pareça escrito por Inteligência Artificial (IA). Hoje em dia, escrever bem voltou a despertar velhas suspeitas. Muito antes da IA, alunos que escreviam excecionalmente bem já eram questionados sobre se teriam tido ajuda de alguém. Há, por assim dizer, uma mudança de suspeito.
Enquanto professora de Português e formadora, admito que já me aconteceu hesitar ao usar o travessão, mesmo que continue a ensinar este sinal de pontuação. O mesmo acontece com os dois pontos e outros sinais auxiliares de escrita.
Ensinamos formas de sistematizar o pensamento, e agora sugere-se evitá-las para que não sejam associadas à IA. Obviamente que esta última não as inventou. Foi treinada com milhões de textos e passou a reproduzir regularidades linguísticas que, durante séculos, fizeram parte do ensino da escrita. Está em curso uma transformação preocupante. Confundem-se valiosos recursos linguísticos com uma assinatura tecnológica.
O debate deveria, pois, alargar-se. Não é demais dizer-se que os mecanismos linguísticos, atrás referidos, não são arbitrários. Respondem a necessidades reais de estruturação do pensamento e de clareza expositiva (...). Deixar de os usar para que os textos não sejam vistos como marcas de IA é, no mínimo, perverso.
(...) Escrevemos, muitas vezes, antecipando possíveis interpretações, procurando evitar ambiguidades ou adequando o discurso ao contexto. O problema surge quando essa escolha deixa de ser estilística ou comunicativa e é defensiva. Evitam-se determinadas construções para que um leitor, humano ou automático, não as interprete como indícios de IA.
A própria indústria começou, entretanto, a procurar formas de tornar identificável a intervenção da IA na produção de conteúdos (...). Convém, no entanto, não sobrestimar a robustez destes mecanismos. Uma marca de água pode sinalizar intervenção do modelo sem permitir concluir, por si só, que um texto foi integralmente produzido por IA. No caso de pequenas correções gramaticais ou de pontuação introduzidas num texto humano, a marca pode já ficar presente, ainda que de forma ténue; uma edição mais profunda, ou uma reescrita substancial, pode degradar ou eliminar esse sinal por completo (...).
Existe, a meu ver, um equívoco que sobrevaloriza a forma. Discutem-se travessões, pontuação e sintaxe como se aí residisse a qualidade de um texto. Muito antes da IA já existiam corretores ortográficos, gramáticas e dicionários de sinónimos. Todos ajudavam a escrever melhor; nenhum produzia uma ideia original. A qualidade da escrita não se esgota na perfeição formal, a não ser que seja, em certos géneros, uma procura deliberada.
Quem escreve sabe que a estrutura do texto não prevalece no produto final. Pode dar-se corpo a uma ideia de várias maneiras; só depois se revê, reorganiza, corta e procura a formulação mais ajustada. O mais difícil é aprender a ter e a libertar o pensamento antes de o escrever, para posteriormente se fazer a correção linguística. Se quem escreve vigiar como o faz, com receio de parecer uma máquina, sujeita-se a uma autocensura durante o ato de criação.
Já no início do século XX, Wittgenstein associava os limites da linguagem aos limites do mundo que conseguimos conceber. Deste modo, a linguagem não é apenas o instrumento com que exprimimos o pensamento; participa também na sua construção. Ao procurar palavras, organiza-se e descobre possibilidades que ainda não existiam. Só compreendemos uma ideia, muitas vezes, quando tentamos formulá-la. Empobrecer propositadamente os recursos linguísticos é limitar o próprio pensamento.
Pode pedir-se a um modelo que escreva ao estilo de Eça de Queirós ou de Saramago. Aproxima-se da sintaxe, do ritmo e do léxico, por vezes, com surpreendente proficiência; porém, escapa-lhe aquilo que reconhecemos num grande autor: uma voz que não se reduz à forma, mas exprime uma posição histórica, uma visão do mundo e uma maneira singular de dar sentido à linguagem (...).
Seria absurdo que, depois de séculos a ensinar a escrever com clareza, começássemos a evitar esses recursos só para não parecermos IA. Para sermos mais humanos, não deveríamos ter de escrever pior (...).
Enquanto professora de Português e formadora, admito que já me aconteceu hesitar ao usar o travessão, mesmo que continue a ensinar este sinal de pontuação. O mesmo acontece com os dois pontos e outros sinais auxiliares de escrita.
Ensinamos formas de sistematizar o pensamento, e agora sugere-se evitá-las para que não sejam associadas à IA. Obviamente que esta última não as inventou. Foi treinada com milhões de textos e passou a reproduzir regularidades linguísticas que, durante séculos, fizeram parte do ensino da escrita. Está em curso uma transformação preocupante. Confundem-se valiosos recursos linguísticos com uma assinatura tecnológica.
O debate deveria, pois, alargar-se. Não é demais dizer-se que os mecanismos linguísticos, atrás referidos, não são arbitrários. Respondem a necessidades reais de estruturação do pensamento e de clareza expositiva (...). Deixar de os usar para que os textos não sejam vistos como marcas de IA é, no mínimo, perverso.
(...) Escrevemos, muitas vezes, antecipando possíveis interpretações, procurando evitar ambiguidades ou adequando o discurso ao contexto. O problema surge quando essa escolha deixa de ser estilística ou comunicativa e é defensiva. Evitam-se determinadas construções para que um leitor, humano ou automático, não as interprete como indícios de IA.
A própria indústria começou, entretanto, a procurar formas de tornar identificável a intervenção da IA na produção de conteúdos (...). Convém, no entanto, não sobrestimar a robustez destes mecanismos. Uma marca de água pode sinalizar intervenção do modelo sem permitir concluir, por si só, que um texto foi integralmente produzido por IA. No caso de pequenas correções gramaticais ou de pontuação introduzidas num texto humano, a marca pode já ficar presente, ainda que de forma ténue; uma edição mais profunda, ou uma reescrita substancial, pode degradar ou eliminar esse sinal por completo (...).
Existe, a meu ver, um equívoco que sobrevaloriza a forma. Discutem-se travessões, pontuação e sintaxe como se aí residisse a qualidade de um texto. Muito antes da IA já existiam corretores ortográficos, gramáticas e dicionários de sinónimos. Todos ajudavam a escrever melhor; nenhum produzia uma ideia original. A qualidade da escrita não se esgota na perfeição formal, a não ser que seja, em certos géneros, uma procura deliberada.
Quem escreve sabe que a estrutura do texto não prevalece no produto final. Pode dar-se corpo a uma ideia de várias maneiras; só depois se revê, reorganiza, corta e procura a formulação mais ajustada. O mais difícil é aprender a ter e a libertar o pensamento antes de o escrever, para posteriormente se fazer a correção linguística. Se quem escreve vigiar como o faz, com receio de parecer uma máquina, sujeita-se a uma autocensura durante o ato de criação.
Já no início do século XX, Wittgenstein associava os limites da linguagem aos limites do mundo que conseguimos conceber. Deste modo, a linguagem não é apenas o instrumento com que exprimimos o pensamento; participa também na sua construção. Ao procurar palavras, organiza-se e descobre possibilidades que ainda não existiam. Só compreendemos uma ideia, muitas vezes, quando tentamos formulá-la. Empobrecer propositadamente os recursos linguísticos é limitar o próprio pensamento.
Pode pedir-se a um modelo que escreva ao estilo de Eça de Queirós ou de Saramago. Aproxima-se da sintaxe, do ritmo e do léxico, por vezes, com surpreendente proficiência; porém, escapa-lhe aquilo que reconhecemos num grande autor: uma voz que não se reduz à forma, mas exprime uma posição histórica, uma visão do mundo e uma maneira singular de dar sentido à linguagem (...).
Seria absurdo que, depois de séculos a ensinar a escrever com clareza, começássemos a evitar esses recursos só para não parecermos IA. Para sermos mais humanos, não deveríamos ter de escrever pior (...).
No entanto, quanto mais escrevo sobre escrita, mais percebo que estou a escrever sobre leitura, pois é nela que um texto encontra a sua razão de ser. Ler nunca foi apenas descodificar palavras, é construir significado, mobilizar a memória, questionar convicções e transformar a nossa compreensão da realidade. Continuar a escrever bem é um ato de confiança na linguagem, o lugar onde o pensamento se exprime e encontra outros. Confiar na linguagem é acreditar na extraordinária capacidade humana de pensar e de criar, e de procurar, nas palavras, um lugar de confluência entre consciências (...).
14 comentários:
Quando leio um texto interessa-me o que ele me diz, não me importa quem é o autor. Pode ser Inteligência artificial ou o João ou a Manuela. Se me agrada lê-lo que me pode interessar se foi feito pela Inteligência artificial?
Exmo. Anónimo e demais legentes. Recordo que, ao longo da vetusta História (usada para o propósito que convém, normalmente, a quem prevalece detentor - sim, têm sido sobretudo elementos do sexo masculino, dos meios que permitem coordenar as instituições e, agora, dos meios que permitem dotar a Terra de uma película imagética que alimenta o inconsciente colectivo, e tende a amortecer a acutilância de um olhar individual - o que se reflecte nos homens e nas mulheres, mas tendencialmente mais nas mulheres e, ainda, nos indivíduos em estado de maior fragilidade social) foi necessário conferir IDENTIDADE bem reconhecível a quem permanecia submetido/a a desequilíbrios sociais que obstavam à sua expressão: foi assim que se mobilizaram pessoas em situação de escravatura, por exemplo. Convém não perder de vista, agora, outras situações que manifestamente pedem intervenção objectiva e localizada. De resto, quando não está em perigo o cometimento de uma fraude, sem dúvida que concordo com o que escreve. Agradecida. CSBBF
Embora de acordo em geral com o texto, penso que a única forma de ultrapassar o problema da "assistência" da IA é voltar aos métodos de ensino de há 60 anos atrás. Avaliação só de trabalhos presenciais in loco
São incomensuráveis as teses de doutoramento feitas por encomenda, nomeadamente na área da educação superior, sem originalidade nenhuma e, por vezes, com erros ortográficos de cabo de esquadra.Neste campo do ensino, baseado na fraude. a IA terá sempre a última palavra, de tal maneira que nada será como dantes. Antes da IA já tínhamos optado pelo "facilitismo" puro e duro. Agora, com IA está a chegar uma Revolução que não é compatível com as escolas do tipo armazém que ainda são as nossas. Por exemplo, começar o ensino e a aprendizagem, com bebés de quatro anos de idade, não faz sentido! Nessas tenras idades não há melhor do que os pais e sobretudo", As mães para educarem os seus filhos. Depois, quando fizessem 12 anos, já bem educados, poderiam ingressar nas escolas oficiais ou particulares e não andarem tanto tempo repetirem as matérias dadas nos diferentes anos, quais animais ruminantes, que manifestamente não são. O que apresento é uma pequena ideia, para começar a traçar um futuro que ainda ninguém conhece.
As escolas ainda não foram extintas porque os pais precisam de quem tome conta das crianças e adolescentes enquanto estão a trabalhar.
Num dos meus comentários, faz tempo, neste blogue, falei do academismo pernicioso e fiquei à espera de reações, que não houve.
Agora, aproveitando o ensejo que me dá o tema do artigo, recupero aquela minha crítica para enfatizar os limites do academismo e os seus vícios, no que toca à velha e nunca resolvida questão da autoria do aluno. Refiro-me à autoria das respostas, sobretudo escritas, às perguntas, que conhece ou não de antemão, e ao teor e qualidade dessas respostas, sempre dependentes dos textos de que se socorreu, como era seu mister, mas também daquilo que, relevantemente, inventou, inferiu ou pensou para além desses textos, e que nenhum manual, nem sequer toda a literatura, lhe podia dar.
É justamente esta distinção, entre reprodução e pensamento, que o academismo nunca soube avaliar e que a IA, ao nivelar a forma das respostas, torna agora impossível disfarçar.
A IA generativa é uma das tecnologias que aparecem para tornar visíveis problemas que já existiam. Durante décadas o academismo habituou-se a confundir reprodução com saber, desempenho com compreensão, texto com pensamento, e autoria com mera conformidade formal. A escola viveu da ficção de que o texto produzido pelo aluno, resposta, dissertação, relatório, comentário, era uma janela transparente para o seu pensamento. A autoria escolar era tomada como evidente, porque não havia concorrência técnica que a pusesse em causa. O aluno escrevia, logo pensava, respondia, logo compreendia, organizava frases, logo inferia, produzia um texto, logo era autor.
A escola nunca teve acesso ao processo interior, apenas ao produto exterior que tomava como prova suficiente do processo. A IA destrói esta equivalência, não porque pense melhor do que o aluno, mas porque não pensa de todo e, ainda assim, produz textos que satisfazem todos os critérios formais da avaliação académica. Aquilo que o academismo sempre avaliou como “pensamento” era, afinal, forma, não origem cognitiva, desempenho, não compreensão, adequação ao enunciado, não visão, competência textual, não autoria na boa acepção.
Ora, defender o modelo de avaliação, que a IA torna obsoleto, é um problema sério.
A escola não sabe como enfrentar a IA porque nunca soube como enfrentar o pensamento humano. Sempre avaliou o que podia ver, o texto, e não o que precisava de ver, o processo. Sempre certificou o que podia medir, a reprodução, e não o que devia medir, a compreensão. Sempre premiou quem decorava, e reproduzia, porque a memorização e a reprodução, eram os únicos indícios disponíveis de que o aluno “sabia”.
A IA torna esta lógica impossível, porque é a prova de que decorar já não significa compreender, e reproduzir já não significa saber.
Habituados a uma pedagogia da repetição, vemo-nos agora obrigados a justificar a sua razão de ser. A pergunta que a IA traz à tona não é “como impedir que os alunos usem a IA?”, mas sim “como avaliar aquilo que a IA não pode simular?”. E esta pergunta é devastadora, porque obriga a escola a regressar ao que sempre deveria ter sido o seu núcleo, o pensamento situado, a inferência viva, a invenção conceptual, a compreensão que é fruto de um mundo vivido e não de uma recombinação formal.
A crise (do academismo) não é tecnológica, é ontológica. E isto é muito difícil de aceitar. A IA não ameaça a escola porque escreve, mas porque escreve sem pensar, e tanto basta para mostrar que a escola nunca soube distinguir, nos textos dos alunos, entre o pensamento e a forma. A IA, espero eu, não rouba a autoria a ninguém, mas mostra que a autoria escolar sempre foi uma ficção sustentada pela ausência de concorrência.
O alarmismo suscitado, em tão pouco tempo de existência da IA, não é porque ela destrua a aprendizagem, mas porque desacredita inapelavelmente o modo como a aprendizagem foi tradicionalmente certificada. Ao defender o método que a IA torna insustentável, a escola não está a defender o pensamento.
É bom que saibamos, por mais que custe, que a questão decisiva não é tecnológica, mas pedagógica. Talvez preferíssemos que, neste mundo alucinado pelos milagres das tecnologias, este fosse apenas mais um dos problemas que a tecnologia veio para resolver. Infelizmente, ainda não será desta. Senão, vejamos: que tipo de autoria queremos reconhecer? Que tipo de pensamento queremos ver? Que tipo de saber queremos formar?
Se a escola continuar a avaliar textos, a IA escreverá por ela, mas se a escola passar a avaliar processos, a IA ficará fora do jogo. Se a escola continuar a premiar a reprodução, a IA será sempre melhor, mas se a escola passar a valorizar a invenção, a IA será sempre insuficiente.
A IA não ameaça a autoria, a inventividade, a “voz com vida”, a descrição vivida, a resposta individual aos problemas reais, mas ameaça tudo o que seja suscetível de repetição, de reprodução e de recombinação formal.
Quanto a estes aspetos, estou em crer que a IA já está a obrigar a escola, e não só, a abandonar a ficção da autoria textual e a tentar encontrar a realidade da autoria cognitiva. O academismo, embora não seja incapaz de reconhecer pensamento, é incapaz de o verificar formalmente. Até lá, a IA fará o seu caminho e esta incapacidade estrutural será impossível de ignorar.
Pessoalmente, prezado leitor, fico incomodada quando percebo que um texto foi produzido por uma máquina, mesmo que o texto seja um email ou uma mensagem automática. Não há gente do outro lado! E mais incomodada fico quando são textos com alguma elaboração, por exemplo, resumos de podcasts em jornais, cada vez mais frequentes. Tento ler apenas o que foi escrito por alguém: alguém que pensou alguma coisa, organizou e expressou o que pensou. E não vejo como se pode normalizar a supressão desse alguém. Cordialmente, MHDamião
Não sei se os métodos a que se refere são dessa altura, mas há métodos que não deveríamos abandonar, nomeadamente os que apelam à expressão escrita e verbal dos estudantes in loco, como diz. Na minha universidade eles são recomendados (ver, por exemplo, "Recomendações Gerais para o Uso de Inteligência Artificial Generativa (IQG) no Ensino-Aprendizagem e na Avaliação, na Universidade de Coimbra"). O problema é o modo como a própria universidade se organizou a partir de lógicas que não são as suas, nomeadamente, da produtividade, da competição e empresarialização. Cordialmente, MHDamião
Boa noite Cara Helena Damião. O que está a acontecer com o que se convencionou chamar IA, pelo que vou acompanhando (e já a ela me referi numa situação de investigação institucionalmente enquadrada), sendo de facto agora aparentemente algo bastante convulsivo, relaciona-se, no meu entendimento, com a própria situação do planeta Terra, ou seja, o mundo globalizado. É, sim, muito desconcertante que não seja uma pessoa a responder-nos do outro lado do espaço aéreo, digamos assim. Todo esse espaço aéreo, na verdade, parece-me acabar por saturado. Mas, tenho uma questão para lhe colocar, e vem na senda do que um livro pode proporcionar, um livro, diga-se, muito antigo, vindo por exemplo do século X: quem o escreveu já não está cá, em carne e osso, mas ... as palavras, o espírito, continuam a poder ecoar, a reverberar. O que está a acontecer agora é, creio, uma transição do modo de relacionar Tempo e Espaço - e algo terá de alterar-se, porque, como já expus num vídeo (que tinha disponível no canal de YouTube, mas que desapareceu do meu computador), o tempo epocal cruzado pela ideia de emancipação está relacionado com um tempo referencial da organização da Terra que me parece já não existir. Boa noite. CSBBF
Sobretudo, Helena Damião, deverão ter de encontrar-se formas de vida que protejam o Nascimento (a chegada à Terra das crianças), a Morada (Zigmunt Baumann fala da liquidez/segurança - existe um vídeo no YouTube em que ele expõe a sua certeza de que o compromisso dos povos na Terra, em prol de uma relação harmónica, terá de alterar-se), o Diálogo (a abertura, que contém em si a possibilidade de ser diferente do que está à partida definido - e aqui incluo o diálogo consigo mesma). CSBBF
E até lhe proponho um desafio, Helena Damião. Neste momento permaneço numa situação difícil e é mesmo impossível viajar até Coimbra. Calculo que, como lecciona na Universidade de Coimbra e tem um salário que lhe proporciona, concebo, a existência de meio de locomoção a motor, vulgo carro, tenha mais facilidade em deslocar-se. Então, proponho-lhe: que se desloque até à Avenida Universidade de Coimbra, nº 36, em Condeixa-a-Nova, onde podemos conversar sobre o que expõe aqui, e continuar até a reflectir sobre aquela proposta que me fez de cruzar a arte com a filosofia e a educação (o que aconteceu na ocasião em que eu permanecia no CEIS20 a realizar o doutoramento em Estudos Contemporâneos). Ver para crer, em carne e osso - sem máquinas, sem robôs, sem interferências, sem suposições, sem dúvidas. Está nas suas mãos. Bom dia. CSBBF
Se tiver a capacidade para o fazer, Helena Damião, assinala-se a sua condição de pessoalidade, e, sobretudo neste momento concreto que estamos a atravessar e que pede exactamente coragem, ressalta a sua marca como mulher. Obrigada e bom dia. CSBBF
Ressalto: 15 km, 20 minutos, duas pessoas - eu e a Helena Damião - duas presenças na concretude de dois corpos animados pela vida intrínseca que os constitui, agora. Ou seja, Coimbra-Condeixa. E poderíamos, julgo (trata-se de uma hipótese racional), retomar a conversa que decorreu na Faculdade de Psicologia da Universidade de Coimbra. Obrigada e renovo os votos de bom dia. CSBBF
Enviar um comentário