OpenAI defende regulamentação de IA para garantir a segurança humana

Os líderes da OpenAI, organização responsável pelo desenvolvimento do ChatGPT, estão fazendo um apelo para a regulamentação de inteligências “superinteligentes”.

Eles defendem a criação de uma entidade reguladora semelhante à Agência Internacional de Energia Atômica para proteger a humanidade contra os riscos de criar uma inteligência com capacidade de destruição.

Em um comunicado breve publicado no site da empresa, os cofundadores Greg Brockman e Ilya Sutskever, juntamente com o CEO Sam Altman, solicitam a criação de um órgão regulador internacional para iniciar o trabalho de autenticação de sistemas de inteligência artificial.

A proposta visa à realização de auditorias, testes de conformidade com padrões de segurança e implementação de restrições nos níveis de implantação e segurança. Essas medidas visam reduzir o risco existencial associado a esses sistemas, buscando proteger a humanidade de perigos potenciais.

Há várias décadas, os investigadores vêm destacando os riscos potencialmente associados à superinteligência, em que realmente temos notado uma evolução. No entanto, à medida que o desenvolvimento da IA ​​avança rapidamente, esses riscos tornam-se cada vez mais concretos.

O Center for AI Safety (CAIS), com sede nos EUA, dedica-se a mitigar os riscos sociais associados à inteligência artificial e identificou oito categorias de risco consideradas “catastróficas” e “existenciais” relacionadas ao desenvolvimento da IA, por exemplo. Há sérios riscos e estamos expostos a eles.

Líderes da OpenAI solicitam regulamentação de inteligências artificiais

É possível imaginar que, nos próximos 10 anos, os sistemas de IA alcancem um nível de habilidade especializada em diversos domínios e se tornem tão produtivos quanto algumas das maiores corporativas existentes atualmente, como informaram os especialistas da OpenAI.

Essa evolução rápida da IA ​​tem o potencial de transformar significativamente vários setores, mantendo a eficiência e a automação em diversas atividades produtivas.

Em relação às potenciais vantagens e à proteção, a superinteligência é considerada uma tecnologia mais poderosa do que aquelas com as quais a humanidade já lidou no passado, informou a mensagem dos líderes.

Existe uma perspectiva de um futuro significativamente mais próspero, mas é essencial gerenciar cuidadosamente os riscos envolvidos para alcançar esse cenário. Diante da possibilidade de riscos existenciais, como informaram em nota, é crucial adotar uma postura proativa, em vez de apenas responder às situações à medida que surgem.

No contexto imediato, o grupo enfatiza a necessidade de “algum nível de coordenação” entre as empresas envolvidas em pesquisas avançadas em IA, a fim de garantir uma integração harmoniosa de modelos cada vez mais poderosa na sociedade, com uma prioridade especial na segurança.

Essa coordenação poderia ser estabelecida por meio de iniciativas ou de acordos coletivos que buscam limitar o avanço da capacidade da IA. Essas abordagens seriam fundamentais para garantir o desenvolvimento da IA ​​permitido de forma controlada e responsável, considerando os riscos envolvidos.