Relatório sugere que inteligências artificiais podem causar catástrofes de ‘nível nuclear’

Sucesso em 2022 que acabou se alastrando em 2023, as Inteligências Artificiais têm ganhado cada vez mais espaço entre as atividades humanas, tendo se tornado uma constante no dia a dia de muitas pessoas.

Todo esse sucesso tem criado uma verdadeira revolução tecnológica, demonstrada por exemplos notáveis como a DeepMind, do Google, e o ChatGPT, da OpenAI.

Esse progresso promete revolucionar nossas vidas e economia, porém, muitos especialistas estão preocupados com a velocidade das mudanças e suas possíveis consequências desastrosas para o mundo.

Como exemplo disso, de acordo com um relatório do departamento especializado em IA da Universidade de Stanford, as decisões tomadas por inteligências artificiais podem levar a uma catástrofe em nível alarmante.

Para se ter uma ideia, nada menos que 36% dos pesquisadores que assinaram o Relatório Anual do departamento de pesquisa sobre Inteligência Artificial da universidade não veem o avanço das IAs como algo positivo, temendo até mesmo o que eles chamam de “catástrofes de nível nuclear” em decorrência disso.

As preocupações em relação à Inteligência Artificial têm se concentrado principalmente nas consequências disruptivas que essa tecnologia pode ter para a sociedade.

Empresas como Google e Microsoft estão em uma corrida para desenvolver inteligências artificiais generativas, que são sistemas treinados com dados e que podem criar textos e imagens com base em comandos simples.

No entanto, como demonstrado pelo ChatGPT, essas tecnologias podem rapidamente eliminar meios de subsistência, o que acabou se tornando uma preocupação entre os seus desenvolvedores.

Se a inteligência artificial generativa for tão eficaz quanto se espera, até 300 milhões de empregos podem estar em risco somente nos EUA e na Europa, com profissões jurídicas e administrativas sendo as mais vulneráveis, de acordo com uma nota de pesquisa do Goldman Sachs divulgada no mês passado.

Além disso, há também a preocupação de que o trabalho prestado pelas IAs apresente falhas e vícios com potencial destrutivo se usadas em áreas sensíveis como Diplomacia, Geopolítica e Defesa.

Por esses e outros motivos, no mês passado foi lançada uma carta aberta assinada por cerca de 1300 especialistas em Inteligência Artificial, incluindo Elon Musk e Steve Wozniak, que pediam uma pausa no desenvolvimento acelerado de ferramentas de IA.