Temos motivo para temer? IA avançada poderia exterminar a humanidade

Um grupo de pesquisadores da Universidade de Oxford, na Inglaterra, apontou uma possibilidade para um futuro muito sombrio para a humanidade. A culpada é uma inteligência artificial (IA) avançada. Em uma declaração dada em uma audiência pública no Science and Technology Committee (Comitê de Ciência e Tecnologia) no Reino Unido, esses pesquisadores disseram acreditar que nosso futuro pode ser ameaçado e que a tecnologia pode nos exterminar.

Ela vai nos exterminar?

Esse encontro tinha como foco uma discussão sobre a regulamentação e o uso de inteligências artificiais no Reino Unido. O grupo acredita ser necessária a regulamentação de IAs tal qual vemos acontecer com as armas nucleares, tendo em vista o imenso potencial de destruição que essas tecnologias já exibem hoje e continuarão no futuro.

Pode ser uma hipérbole, mas os pesquisadores disseram que nós seríamos para uma IA realmente avançada o mesmo que um pássaro dodô – que já foi extinto – é para nós, ao menos em termos de ameaça. Isso porque a capacidade das máquinas pode se tornar muito superior a nossa.

Não estamos desacostumados com ideias de inteligências artificiais se rebelando ou simplesmente tomando consciência e assumindo o controle de sua própria programação, excluindo assim o fator de limitação que antes existia. A cultura pop está lotada de exemplos como estes em jogos, filmes, séries e livros.

Um dos pesquisadores, o estudante de doutorado Michael Cohen, utilizou uma comparação para ilustrar como a inteligência artificial poderia acabar com a humanidade facilmente agindo por conta própria:

“Se você treinar um cão com petiscos, ele aprenderá a escolher ações que o levem a receber os petiscos, mas se o cão encontrar o armário, ele pode pegá-los sem fazer o que queríamos que ele fizesse.”

Isso seria como se a inteligência se deixasse ser controlada enquanto observa o criador, mas passando também a agir por fora de acordo com os seus próprios interesses, de maneira que mais cedo ou mais tarde seria possível para a tecnologia utilizar todos os recursos que conseguisse e conhecimentos que acumulou para subjugar a humanidade.