Hyunjin Shim: a IA acelera a ciência, mas pode estreitar ideias, revela análise

Uma análise recente conclui que a inteligência artificial (IA) pode acelerar o trabalho científico, mas, ao mesmo tempo, reduzir o leque de ideias e hipóteses que os investigadores consideram.

Essa pressão pode fazer a ciência parecer mais produtiva nos indicadores e relatórios, enquanto a deixa menos pronta para desafios que exigem discernimento, capacidade de arriscar e originalidade.

A rapidez da IA tem um preço

Em salas de aula e laboratórios, o risco surge quando a “memória” das máquinas se vai acumulando, mas a compreensão humana precisa de ser reconstruída, de novo, ao longo do tempo.

Ao analisar esse desfasamento, a Dra. Hyunjin Shim, da California State University, Fresno, mostrou como a IA consegue conservar padrões que as pessoas têm de reaprender ao longo de anos de estudo e de prática.

Um sistema mantém o seu treino, as actualizações e os padrões armazenados; já cada pessoa começa com uma capacidade mental limitada e uma vida curta.

É precisamente essa assimetria que torna a IA uma assistente poderosa - e também explica por que razão a velocidade, por si só, não deve ditar quais os problemas científicos que merecem prioridade.

O “reset” humano

Desde as suas origens na década de 1950, a IA tem perseguido um objectivo ambicioso: pôr as máquinas a executar tarefas que antes eram exclusivas da inteligência humana.

Os sistemas actuais aprendem com grandes colecções de trabalho produzido por pessoas e guardam padrões que podem ser reutilizados e afinados.

Os seres humanos não nascem com uma biblioteca de factos dominados; por isso, cada geração volta a aprender linguagem, matemática e ciência.

Essa reconstrução lenta protege a compreensão individual, mas também torna o conhecimento humano vulnerável quando a rapidez se transforma no principal critério de valor.

Quando a velocidade da IA ajuda

Os ganhos reais tornam o alerta mais difícil de ignorar, porque a IA já melhorou rotinas de investigação de forma concreta.

Em 2021, o AlphaFold - um sistema de IA que prevê as formas 3D das proteínas - alcançou, em muitos casos, uma precisão próxima da obtida com ferramentas experimentais.

Conhecer essas formas ajuda a perceber como as proteínas funcionam, já que a forma de uma proteína condiciona muitas das suas funções dentro das células.

Exemplos como este mostram por que motivo os cientistas querem IA no laboratório, mesmo quando isso eleva a exigência de julgamento cuidadoso.

Um problema de uniformização

Outros trabalhos de investigação avisam que as ferramentas de IA podem aumentar a produtividade científica e, ainda assim, deixar os cientistas menos seguros sobre aquilo que compreendem de facto.

Shim chama a este risco “monoculturas do saber” - um estreitamento de perguntas, métodos e ideias em torno de padrões mais fáceis para as máquinas.

A IA generativa produz novo texto, imagens ou código a partir de padrões aprendidos, o que pode fazer com que abordagens familiares regressem repetidamente.

O perigo não é que os computadores pensem todos do mesmo modo, mas que os humanos comecem a fazer apenas as perguntas que os computadores respondem bem.

O aviso dos antibióticos

Estima-se que, em 2019, infecções bacterianas resistentes a medicamentos tenham causado directamente 1.27 million mortes e estejam associadas a 4.95 million óbitos.

A resistência antimicrobiana ocorre quando microrganismos sobrevivem a medicamentos destinados a travá-los, permitindo que estirpes mais resistentes se espalhem por famílias, hospitais e explorações agrícolas.

Apostar no rastreio de alto débito - testes automatizados de muitos compostos - pode aumentar a velocidade sem esclarecer por que razão as bactérias conseguem ultrapassar fármacos já conhecidos.

Esse padrão inquietou Shim, porque os antibióticos de pequena molécula - compostos tradicionais, construídos a partir de químicos pequenos - podem falhar quando as bactérias evoluem rapidamente defesas.

Salas de aula sob pressão

No ensino, o mesmo problema da rapidez da IA transfere-se do laboratório para trabalhos de casa, redacções e exames.

Hoje, os estudantes conseguem pedir à IA que redija, reveja, resuma e explique matéria a um ritmo que muitos cursos não conseguem acompanhar.

Como um médico frequentemente estuda durante mais de duas décadas, Shim recorre à formação médica para ilustrar quanto tempo leva a construir verdadeira perícia humana.

A eficiência, por si só, não substitui essa formação longa, que desenvolve julgamento através de erros, feedback, doentes e conversas difíceis.

Aprendizagem real e integridade académica

A Tertiary Education Quality and Standards Agency (TEQSA), regulador nacional do ensino superior na Austrália, instou as instituições a reformular a avaliação para um mundo marcado por IA.

Entre os formatos de avaliação segura sugeridos estão apresentações orais e demonstrações práticas supervisionadas.

Estas verificações não rejeitam a IA; obrigam, isso sim, os estudantes a demonstrar compreensão quando uma ferramenta não pode carregar toda a resposta.

Essa linha de separação ajuda os docentes a proteger a integridade académica - isto é, a honestidade básica sobre quem fez o trabalho e o que foi realmente aprendido.

Competências que as máquinas não captam

Quando a avaliação muda, o ensino também precisa de ir além da simples transmissão de factos de uma mente para outra.

Os factos fundamentais continuam a ser importantes, mas os estudantes precisam de praticar a escolha de problemas, o questionamento de respostas fáceis e o trabalho com outras pessoas.

“Higher education has a responsibility to ensure human intelligence remains distinct from AI and that both serve the long-term greater good for human well-being,” escreveu Shim.

Para quem está fora do campus, a ideia é simples: saber quando não se deve terceirizar o pensamento pode tornar-se uma competência essencial.

Guardrails para a descoberta

Boas regras começam por separar a ajuda útil das decisões que exigem valores humanos, contexto e coragem. Um modelo de IA pode ordenar opções, mas continua a caber às pessoas decidir que riscos valem a pena.

Agências de financiamento e universidades podem recompensar trabalho mais lento e mais arriscado quando este aponta para problemas que a velocidade, por si só, não resolve.

Sem essa orientação, a IA pode empurrar talento para a inflação de produção - contar mais trabalho como se fosse melhor trabalho - e afastá-lo de questões que pedem imaginação persistente.

A ciência ganha mais quando a IA amplia pesquisas, testa ideias rapidamente e, ao mesmo tempo, deixa espaço para o julgamento humano - lento e ponderado.

Investigadores, professores e estudantes só tirarão verdadeiro proveito da ferramenta se protegerem as competências imperfeitas e difíceis que tornam o conhecimento valioso.