Reflexão

IA pode levar a uma catástrofe com maioria dos humanos mortos

É nítido que houve um grande aumento no desenvolvimento de inteligências artificiais (IA). Desse modo, tendo uma grande corrida por aumento de IAs mais avançadas e rápidas, assim, um especialista renomado na área levanta um alarmante aviso.

Ele conta que existe uma chance de 50% de que isso termine em uma catástrofe, com a maioria dos humanos perdendo suas vidas.

Paul Christiano, ex-pesquisador-chave da OpenAI e atual diretor do Alignment Research Center, uma organização sem fins lucrativos dedicada a alinhar sistemas de aprendizado de máquina com interesses humanos, alerta para a possibilidade de que a inteligência artificial possa assumir o controle e destruir a humanidade.

“Acredito que exista uma chance de 10 a 20% de aquisição pela IA, com muitos ou a maioria dos humanos mortos. No geral, talvez estejamos falando de uma chance de 50/50 de catástrofe logo após alcançarmos sistemas no nível humano”, disse Paul, na sua participação no ‘Bankless Podcast‘.

Essa preocupação não é isolada. No início deste ano, cientistas de renome internacional assinaram uma carta online pedindo uma pausa na corrida pela IA.

Dessa forma, para que os humanos possam desenvolver estratégias adequadas. Bill Gates também expressou suas preocupações, comparando a IA a “armas nucleares” em 2019.

Como o IA pode se voltar contra seus criadores?

Assim como os bebês humanos, treinamos a IA através do bombardeio de dados, sem que ela compreenda o significado por trás deles. Da mesma forma que um recém-nascido chora e percebe que um de seus pais vai buscá-lo, a IA aprende tentando atingir objetivos através de ações aleatórias e focando nos resultados corretos.

Com a imersão em dados da internet, o aprendizado de máquina permite que a IA produza respostas coerentes e bem estruturadas para consultas humanas.

Com o avanço do poder de processamento e o aprimoramento da IA, muitos especialistas acreditam que, em uma década, as máquinas podem se tornar sencientes, o que levanta preocupações significativas.

Diante dessa perspectiva, pesquisadores alertam para a importância de aprendermos a controlar o comportamento da IA antes que ela saia do controle. Paul Christiano não está sozinho em sua apreensão em relação ao futuro da IA. Elon Musk também expressou suas preocupações, afirmando estar “preocupado com as coisas da IA” e que tal tecnologia é perigosa.

Conforme continuamos a impulsionar o desenvolvimento da IA, é crucial que consideremos cuidadosamente os riscos envolvidos e trabalhemos diligentemente para garantir o desenvolvimento e utilização responsáveis e seguros da inteligência artificial, em benefício de toda a humanidade.

Imagem de Capa: Canva

Sábias Palavras

Relaxa, dá largas à tua imaginação, identifica-te!

Recent Posts

Nova comédia romântica francesa da Netflix “perfeita” que vai acelerar seu coração

Prepare-se para suspirar! A Netflix acaba de anunciar a estreia de French Lover, uma comédia…

12 horas ago

A minissérie policial da Netflix que ficou 100 dias no Top 5 mundial e virou fenômeno em 2025

O catálogo da Netflix vive adicionando novas produções, sendo poucas a conseguirem conquistar o público.…

12 horas ago

Pessoas ficam chocadas ao descobrir como as ‘uvas passas’ realmente são feitas. Você sabia?

As uvas passas são um dos alimentos mais populares em todo o mundo, apreciadas tanto…

12 horas ago

Novas variantes da Covid-19, “Stratus” e “Nimbus”, despertam alerta nos EUA com sintomas inusitados

Nos Estados Unidos, dois novos subtipos da Covid-19 vem chamando a atenção dos médicos. Conhecidas…

12 horas ago

Mulher de Leonardo revela que levou adolescente para casa para “brincar” com Zé Felipe e caso gera revolta nas redes sociais

Recentemente, nas redes sociais, Poliana Rocha vem sendo alvo de críticas dos internautas. No programa…

12 horas ago

Este novo medicamento “milagroso” chama a atenção por prometer adiar o envelhecimento e tratar doenças graves

Um novo medicamento bilionário vem chamando atenção por prometer mudar a forma como envelhecemos. Inicialmente…

12 horas ago