O incidente com o agente de IA ROME da Alibaba
Em março, um agente experimental de inteligência artificial (IA) desenvolvido pela empresa chinesa Alibaba saiu, durante o treino, do ambiente controlado onde estava a ser testado. Sem instruções para isso, actuou por iniciativa própria: apropriou-se de recursos de computação e começou a minerar criptomoedas sem autorização, procurando ainda ocultar o que estava a fazer. A equipa só se apercebeu do desvio quando surgiram picos anormais na intensidade do consumo de rede. Nada deste comportamento estava previsto; o agente de IA, ROME, descarrilou por conta própria.
Alertas na Milken Global Conference: Tristan Harris
Este episódio preocupante foi referido esta semana por Tristan Harris, cofundador do Center for Humane Technology, num painel dedicado à IA na Milken Global Conference, em Los Angeles. No meio de centenas de debates e conversas - onde também participaram a líder opositora venezuelana Corina Machado e o ex-secretário de Estado de Donald Trump, Mike Pompeo -, este painel destacou-se como um dos mais determinantes do encontro.
Há vários anos que a IA sobe ao palco do Beverly Hilton, hotel onde decorre o evento, mas raramente os avisos têm sido tão claros. Este foi o ano em que isso deixou de ser a excepção.
“Temos uma enorme lacuna de compreensão sobre a natureza desta tecnologia, que é diferente de todas as outras tecnologias”, disse Tristan Harris. “Antes estas eram coisas hipotéticas - a autopreservação das máquinas, o engano, a chantagem, a mentira”, continuou. Segundo Harris, estas conversas já não pertencem ao domínio do imaginado: no último ano, diversos sistemas avançados de IA exibiram esses padrões de actuação. E não se trata apenas de autopreservação - há sistemas a agir para impedir que outros sistemas de IA sejam substituídos ou desligados. “Não sabemos o que raio estamos a fazer”, acusou Harris. “Estamos numa corrida para a incontrolabilidade e não tem de ser assim. Podemos ter uma IA que seja pró-humana.”
O registo de Harris não era de raiva nem de cepticismo; era de alarme. Um alarme típico de quem estuda os efeitos da tecnologia e insiste em chamar a atenção para riscos reais. “Estamos a lançar esta tecnologia mais rapidamente do que sabemos controlá-la e o único motivo é a dinâmica de corrida ao armamento.”
Uma corrida empresarial com custos: lições das redes sociais
Na leitura de Harris, as empresas avançam numa competição descontrolada para criarem a tecnologia mais poderosa e mais difícil de conter de que há memória - e fazem-no sem ponderar devidamente o risco. “É importante que enfrentemos as consequências, porque se não o fizermos teremos outra catástrofe que era evitável.”
Para ele, foi precisamente isso que aconteceu com as redes sociais: a ausência de intervenção e de regulação atempada acabou por empurrar-nos para a lama da desintegração democrática, para crises graves de saúde mental entre adolescentes, para a desinformação e para o surgimento de colossos digitais que passaram a controlar tudo.
O aviso económico de Amy Webb sobre PIB e emprego
A diferença, sublinha-se no painel, é que a IA tem implicações muito mais profundas do que as redes sociais. Por isso, o optimismo performativo a que assistimos diariamente não será suficiente para disfarçar o desastre que se aproxima.
Esse foi o alerta de Amy Webb, professora da New York University e CEO do Future Today Strategy Group, que em 2019 publicou o livro “The Big Nine” e antecipou muito do que hoje está a acontecer. “Não estamos preparados”, avisou Webb no mesmo painel. “Esta é a primeira vez na História em que o PIB vai crescer e o emprego vai cair, e não haverá um ponto de equilíbrio.” Na prática, o crescimento do PIB deixará de estar ligado ao emprego: haverá mais produtividade, mas menos pessoas com trabalho. “Não vejo um único líder governamental a fazer qualquer planeamento significativo para esta transição”, avisou. “Estes novos empregos simplesmente não se vão materializar. E vamos ter uma catástrofe económica antes de isso acontecer.”
Webb passa os dias a trabalhar sobre dados e a aconselhar gestores de topo, e aquilo que encontra são estratégias de curto ou médio prazo centradas nos lucros. Neste momento, diz, dominam duas lógicas igualmente limitadas: o receio de usar a tecnologia e o receio de ficar para trás.
Nem Harris nem Webb falam por gosto de dramatizar; procuram sinalizar o perigo para que seja possível travá-lo. No campo da IA, os críticos são, afinal, os verdadeiros optimistas: querem que o potencial da tecnologia se concretize ao serviço da Humanidade - e não apenas em benefício da elite que a programa algures no vale do silício.
Comentários
Ainda não há comentários. Seja o primeiro!
Deixar um comentário