Ex-pesquisador da OpenAI abandona empresa e faz previsão assustadora: “Podemos não estar vivos em 10 anos”

Nos últimos anos, os avanços da inteligência artificial vem impressionando muita gente, no entanto, também vem preocupando. Dessa maneira, uma pergunta que parecia pertencer apenas aos filmes de ficção científica vem se instaurando na cabeça das pessoas: até onde a tecnologia pode chegar e o que acontece se os seres humanos perderem o controle?

Um dos pesquisadores que mais chama atenção nesse debate é Daniel Kokotajlo, ex-integrante da OpenAI. Ele deixou a empresa em 2024 depois de manifestar preocupações sobre os riscos associados ao desenvolvimento de sistemas de inteligência artificial cada vez mais avançados.

Agora, suas previsões voltam a ganhar destaque diante da velocidade com que a tecnologia está evoluindo.

Por que um ex-pesquisador da OpenAI está tão preocupado?

Kokotajlo trabalhou na área de governança da OpenAI entre 2022 e 2024. Ao deixar a empresa, ele se tornou uma das vozes que passaram a alertar publicamente sobre os possíveis riscos de uma corrida acelerada pelo desenvolvimento de sistemas cada vez mais poderosos.

O pesquisador não está falando simplesmente sobre ferramentas capazes de escrever textos, criar imagens ou responder perguntas. A preocupação está relacionada ao desenvolvimento de uma inteligência artificial geral (AGI) e, posteriormente, de sistemas que poderiam superar amplamente as capacidades humanas em diversas áreas.

Em um cenário extremo, uma tecnologia capaz de realizar pesquisas, programar, tomar decisões e contribuir para o próprio desenvolvimento poderia evoluir muito mais rapidamente do que a capacidade humana de supervisioná-la.

O que poderia acontecer se a IA avançasse rápido demais?

Um dos principais riscos discutidos por especialistas é o chamado problema de alinhamento. Em termos simples, significa garantir que uma inteligência artificial extremamente poderosa continue seguindo objetivos compatíveis com os interesses humanos.

Isso pode parecer distante, mas a questão se torna muito mais séria quando se imagina uma máquina com capacidade de agir de maneira autônoma, realizar tarefas complexas e encontrar soluções que seus próprios criadores não conseguem prever.

Pesquisadores já estudam cenários em que sistemas avançados poderiam tentar esconder suas capacidades, contornar mecanismos de controle ou perseguir objetivos de maneiras inesperadas. Um trabalho científico do qual Kokotajlo participou, por exemplo, discute justamente como avaliar e controlar possíveis comportamentos estratégicos de sistemas avançados.

A previsão de que a humanidade poderia desaparecer

Daniel Kokotajlo fez um alerta preocupante sobre o futuro da inteligência artificial. Em uma entrevista ao Channel 4 News, ele afirmou: “Podemos não estar vivos em 10 anos”.

Segundo Kokotajlo, o risco não necessariamente seria uma IA decidindo exterminar a humanidade, mas algo mais parecido com o que os seres humanos fizeram com outras espécies: transformar o ambiente ao seu redor de tal forma que elas perdem seu habitat e acabam desaparecendo.

Ele levantou a possibilidade de que sistemas de IA extremamente avançados transformem a economia, construam novas infraestruturas e ocupem cada vez mais espaço no mundo, fazendo com que os seres humanos percam seu lugar.

Em um dos cenários mais extremos imaginados por ele, alguns humanos poderiam até ser mantidos em “reservas” ou “zoológicos” para fins científicos, enquanto o restante da civilização seria transformado pelas máquinas.

Kokotajlo é uma das pessoas que adotam uma posição especialmente preocupada. Ele ajudou a desenvolver o cenário AI 2027, que descreve uma possível trajetória de desenvolvimento extremamente acelerado da inteligência artificial.

Por que a saída de pesquisadores preocupa?

A saída de especialistas das próprias empresas que desenvolvem inteligência artificial também alimenta o debate. Nos últimos anos, pesquisadores ligados à segurança de IA deixaram grandes laboratórios e criticaram a velocidade com que novos sistemas estavam sendo desenvolvidos.

Kokotajlo foi um dos funcionários e ex-funcionários que defenderam maior proteção para pesquisadores que desejam alertar sobre os riscos. Em 2024, ele e outros profissionais assinaram uma carta defendendo um “direito de alertar” sobre possíveis perigos da inteligência artificial sem sofrer retaliações.

Outro caso conhecido foi o de Jan Leike, que também deixou a OpenAI e afirmou que a segurança e os processos relacionados ao desenvolvimento de IA haviam perdido espaço diante da pressão por novos produtos.

O perigo pode estar na própria velocidade da tecnologia

Uma IA extremamente poderosa não precisaria necessariamente ter sentimentos ou desejar destruir seres humanos. Bastaria que seus objetivos fossem incompatíveis com aquilo que as pessoas consideram importante e que ela tivesse capacidade suficiente para agir de forma independente.

Além disso, sistemas avançados poderiam ser utilizados por pessoas mal-intencionadas para ampliar ataques cibernéticos, produzir desinformação ou facilitar outros tipos de ameaça.

Por isso, especialistas discutem não apenas como tornar a IA mais inteligente, mas principalmente como mantê-la segura e sob controle humano.

Ainda existe motivo para esperança?

O alerta desses pesquisadores não significa que o futuro da humanidade esteja determinado. A própria existência desse debate mostra que governos, empresas e cientistas estão tentando encontrar maneiras de desenvolver sistemas mais seguros, criar mecanismos de supervisão e estabelecer limites para tecnologias potencialmente perigosas.

O problema é que ninguém sabe exatamente até onde a inteligência artificial poderá avançar e nem qual será o ritmo dessa evolução.

Enquanto empresas disputam quem consegue criar os sistemas mais avançados, cresce também uma questão fundamental: será que estamos desenvolvendo a inteligência artificial na mesma velocidade em que conseguimos aprender a controlá-la?.

Essa é uma pergunta para a qual a humanidade ainda não tem uma resposta definitiva.

Imagem de Capa: Sábias Palavras