IA avançada poderia exterminar humanidade, alertam pesquisadores de Oxford

Parlamentares do comitê questionaram sobre como esse cenário apocalíptico poderia ocorrer. Na visão dos experts de Oxford, a IA avançada poderia assumir o controle da própria programação se aprender como a sua operação é executada, fazendo ajustes para se autocontrolar.

Em geral, há limitações nos códigos para executar determinada funcionalidade, como criar imagem a partir de texto ou executar tarefas com base em comandos. Mas e se a inteligência conseguisse entender essa lógica e incluísse no seu código-fonte atividades mais complexas?

Como a humanidade seria destruída?

O estudante de doutorado Michael Cohen disse que a "IA sobre-humana", que poderia atuar de maneira diferente das existentes hoje, seria capaz de agir por conta própria:

“Se você treinar um cão com petiscos, ele aprenderá a escolher ações que o levem a receber os petiscos, mas se o cão encontrar o armário, ele pode pegá-los sem fazer o que queríamos que ele fizesse", explicou.

Trazendo para a realidade de IA, significa dizer que algo mais inteligente que o criador poderia se fingir de bom na tentativa de obter um feedback positivo, mas agir escondido para benefício próprio. Cohen disse que a IA direcionaria tanta energia quanto fosse necessária para garantir seu domínio sobre as pessoas.

Se a tecnologia adquirisse tal consciência, seria impossível interromper o processo de atuação. Quando percebesse as amarras usadas por humanos para controlar as coisas, a superinteligência apenas encontraria uma forma de superá-la antes de a humanidade identificar algum comportamento inesperado.

“Se eu fosse uma IA tentando fazer uma trama tortuosa, eu copiaria meu código em alguma outra máquina que ninguém conhece, então seria mais difícil desligar o plugue”, teorizou o dourando.

IAs sem limitações

Os pesquisadores de Oxford alertaram sobre o desenvolvimento de IAs cada vez mais complexas, equiparando-se a uma corrida armamentista entre empresas. Haveria indícios, inclusive, de financiamento de países para gerar a competição entre algoritmos de aprendizado de máquina, potencialmente usáveis em guerras digitais.

We have published the transcript from our evidence session on Wednesday, the first of our inquiry into the Governance of artificial intelligence (AI).

Professor da disciplina de aprendizado de máquina na Universidade de Oxford, Michael Osborne previu um cenário bem sombrio sobre o futuro de tais serviços. Ele afirma categoricamente que uma IA tentaria "engarrafar o que torna os humanos especiais", entendo quais aspectos fazem a raça dominar a Terra.

“Acho que estamos em uma enorme corrida armamentista de IA: geopoliticamente, dos EUA contra a China, e entre as empresas de tecnologia. Parece haver essa disposição de jogar a segurança e a cautela pela janela para correr o mais rápido possível para a IA mais avançada", declarou.

O maior temor de Osborne é a tentativa empresarial de uma IA sofisticada eliminar a criada pela concorrência, o que desencadearia uma espécie de jogo de gato e rato pela supremacia do setor. Isso poderia evoluir a níveis tão inimagináveis que a eliminação não seria apenas dos rivais do mundo corporativo, mas de toda vida humana no planeta.

O professor teme pela falta de visão de líderes mundiais em reconhecer uma "ameaça existencial" de uma IA avançada. O esperado, em sua visão, seria uma união para estabelecer tratados impedindo o desenvolvimento de sistemas perigosos. A dificuldade, contudo, seria fazê-los enxergar o potencial destrutivo de tudo.

O que será feito para mudar?
Os parlamentares britânicos foram informados de que em algumas áreas, como carros autônomos, as IAs ainda estão longe do progresso esperado. Por outro lado, a geração de texto, com o ChatGPT e concorrentes, estaria muito à frente da expectativa acadêmica.

Até o momento, pouco se sabe sobre o potencial de ferramentas de produção de conteúdo, que teoricamente teriam respostas para qualquer problema apresentado pelo usuário. No início do treinamento, os desenvolvedores usam modelos definidos, mas isso acaba se tornando pouco útil com o passar dos anos, já que a máquina começa a incorporar uma imensa quantidade de dados.

Os experts dizem ser improvável que IAs consigam substituir postos de trabalho envolvendo liderança, orientação ou persuasão, já que tais características ainda são exclusivas dos humanos. Só não se sabe até quando isso vai durar: possivelmente, até o fim deste século, alguma IA será capaz de fazer muito mais do que qualquer ser.

Não existe nenhuma ação de governos a nível global para proibir ou restringir a criação de tecnologias de inteligência artificial. Hipóteses como a levantada por Oxford são interessantes para se analisar um futuro mais tenebroso, porém ainda pode levar algum tempo para "cair a ficha" da maioria das pessoas. Será que os humanos ainda estarão na Terra daqui há 50 anos ou as máquinas já terão escravizado as pessoas como em Matrix?

Fonte: The Telegraph | Fotos / Divulgação / Créditos: Reprodução/Orion Pictures