A Anthropic deixou o alerta de que, nos próximos anos, a inteligência artificial poderá vir a criar, de forma totalmente autónoma, o “seu próprio sucessor”, defendendo que poderá fazer sentido introduzir “uma pausa” no desenvolvimento para que a sociedade e a investigação consigam “acompanhar o ritmo”.
Anthropic e a inteligência artificial: apelo a “uma pausa” no desenvolvimento
A empresa norte-americana de inteligência artificial sustenta que “provavelmente será benéfico” desacelerar o avanço da IA, de modo a existir mais tempo para lidar com as suas “imensas implicações”. Nesse contexto, pediu a cooperação de empresas de todo o mundo com o seu departamento de investigação, o The Anthropic Institute, com o objetivo de definir um quadro de referência.
“Acreditamos que seria bom para o mundo ter a opção de travar ou pausar temporariamente o desenvolvimento da IA de ponta, para permitir que as estruturas sociais e a investigação em alinhamento possam acompanhar o ritmo do avanço da tecnologia”, declarou.
Como garantir uma pausa credível e evitar um “agente mal-intencionado”
A Anthropic afirma estar disponível para ajudar a criar os mecanismos que uma pausa deste tipo exigiria, incluindo formas de “verificar” se os outros realmente param para evitar favorecer um “agente mal-intencionado”. A empresa acrescentou ainda que laboratórios “bem financiados” em vários países terão de “aceitar parar nas mesmas condições”.
“Uma pausa credível também tem de especificar o que a desencadeia, o que a levanta e quem a arbitra”, salientou. Ainda este ano, a Anthropic rejeitou conceder acesso irrestrito ao seu modelo Claude às autoridades norte-americanas, justificando a decisão com reservas de natureza ética e recusando contribuir para vigilância em massa e para a integração do Claude em armas autónomas letais sem controlo humano direto.
As inquietações quanto ao uso não benigno da IA têm ganho destaque. O Papa Leão XIV já tinha chamado a atenção para o uso mal-intencionado da inteligência artificial na sua primeira Encíclica, referindo diretamente que a IA é, cada vez mais, uma ferramenta de guerra, e advertindo que “nenhum algoritmo pode tornar a guerra moralmente aceitável”.
“Auto-melhoria recursiva”: quando a IA passa a conceber o sucessor
Numa publicação divulgada na quinta-feira, a empresa norte-americana explicou que tem vindo a confiar cada vez mais tarefas de desenvolvimento de inteligência artificial (IA) aos seus próprios sistemas de IA. E, “à medida que a capacidade computacional aumenta, aproxima-se a possibilidade da “auto-melhoria recursiva””, isto é, a hipótese de a própria IA desenhar e desenvolver o seu sucessor.
Segundo a Anthropic, este autoaperfeiçoamento recursivo - que “não é inevitável” e “pode chegar antes que muitas instituições estejam preparadas” - pode trazer benefícios para áreas como a ciência e a saúde, mas também “aumentar os riscos de os humanos perderem o controlo dos sistemas de IA”.
“Se os sistemas forem capazes de criar inteiramente os seus próprios sucessores, as formas de os tornar seguros, supervisioná-los e moldar o seu comportamento tornam-se muito mais importantes”, acrescentou.
O texto, assinado pelo cofundador da Anthropic, Jack Clark, e pela diretora do The Anthropic Institute, Marina Favaro, recorre a dados internos para caracterizar a rapidez com que os seus modelos avançados estão a evoluir e antecipa que, mais à frente, agentes como o Claude poderão vir a treinar-se sozinhos. Como exemplo, indicou que, atualmente, mais de 80% do código que a Anthropic integra na sua base de código foi criado pelo Claude; há pouco mais de um ano, em fevereiro de 2025, esse valor era inferior a 10%.
A carta é divulgada poucos dias depois de a empresa ter apresentado um pedido para abrir o seu capital em bolsa, seguindo os passos da rival OpenAI, dona do ChatGPT, e da SpaceX, que realizaram oferta pública inicial (IPO, na sigla em inglês) nas últimas semanas.
Comentários
Ainda não há comentários. Seja o primeiro!
Deixar um comentário