IA pode levar a uma catástrofe com maioria dos humanos mortos

É nítido que houve um grande aumento no desenvolvimento de inteligências artificiais (IA). Desse modo, tendo uma grande corrida por aumento de IAs mais avançadas e rápidas, assim, um especialista renomado na área levanta um alarmante aviso.

Ele conta que existe uma chance de 50% de que isso termine em uma catástrofe, com a maioria dos humanos perdendo suas vidas.

Paul Christiano, ex-pesquisador-chave da OpenAI e atual diretor do Alignment Research Center, uma organização sem fins lucrativos dedicada a alinhar sistemas de aprendizado de máquina com interesses humanos, alerta para a possibilidade de que a inteligência artificial possa assumir o controle e destruir a humanidade.

“Acredito que exista uma chance de 10 a 20% de aquisição pela IA, com muitos ou a maioria dos humanos mortos. No geral, talvez estejamos falando de uma chance de 50/50 de catástrofe logo após alcançarmos sistemas no nível humano”, disse Paul, na sua participação no ‘Bankless Podcast‘.

Essa preocupação não é isolada. No início deste ano, cientistas de renome internacional assinaram uma carta online pedindo uma pausa na corrida pela IA.

Dessa forma, para que os humanos possam desenvolver estratégias adequadas. Bill Gates também expressou suas preocupações, comparando a IA a “armas nucleares” em 2019.

Como o IA pode se voltar contra seus criadores?

Assim como os bebês humanos, treinamos a IA através do bombardeio de dados, sem que ela compreenda o significado por trás deles. Da mesma forma que um recém-nascido chora e percebe que um de seus pais vai buscá-lo, a IA aprende tentando atingir objetivos através de ações aleatórias e focando nos resultados corretos.

Com a imersão em dados da internet, o aprendizado de máquina permite que a IA produza respostas coerentes e bem estruturadas para consultas humanas.

Com o avanço do poder de processamento e o aprimoramento da IA, muitos especialistas acreditam que, em uma década, as máquinas podem se tornar sencientes, o que levanta preocupações significativas.

Diante dessa perspectiva, pesquisadores alertam para a importância de aprendermos a controlar o comportamento da IA antes que ela saia do controle. Paul Christiano não está sozinho em sua apreensão em relação ao futuro da IA. Elon Musk também expressou suas preocupações, afirmando estar “preocupado com as coisas da IA” e que tal tecnologia é perigosa.

Conforme continuamos a impulsionar o desenvolvimento da IA, é crucial que consideremos cuidadosamente os riscos envolvidos e trabalhemos diligentemente para garantir o desenvolvimento e utilização responsáveis e seguros da inteligência artificial, em benefício de toda a humanidade.

Imagem de Capa: Canva