Justiça ameaça punir empresas de IA por criarem "humanos falsos"

Yuval Noah Harari, historiador e autor israelense, expressou sua opinião de que os criadores de bots de IA que se passam por pessoas devem enfrentar sentenças criminais severas, comparáveis àquelas impostas a pessoas que negociam com moeda falsa.

Ele também defendeu a aplicação de sanções, incluindo penas de prisão, para executivos de empresas de tecnologia que não tomam medidas efetivas para combater perfis falsos em suas plataformas de mídia social.

Harari manifestou-se contra a utilização deliberada da IA

Durante sua participação na cúpula global AI for Good da ONU, em Genebra, Yuval Noah Harari expressou preocupação com a proliferação de perfis falsos de humanos, alertando para as consequências negativas que isso pode ter na confiança pública e na democracia.

Comparou essa situação à ameaça que o dinheiro falso representa para o sistema financeiro, destacando que, se não pudermos distinguir entre seres humanos reais e falsos, a confiança na sociedade poderá entrar em colapso.

Durante suas declarações, o autor israelense enfatizou que, embora os relacionamentos interpessoais possam, de certa forma, lidar com essas questões, a democracia é particularmente vulnerável.

Ele apontou que o surgimento de modelos de linguagem avançados, como o ChatGPT e outros semelhantes, possibilita que os bots de IA não apenas ampliem o conteúdo humano, mas também gerem artificialmente seu próprio conteúdo em uma escala sem precedentes.

Durante suas declarações, Harari ressaltou a importância de um maior investimento em segurança de inteligência artificial. Sugeriu, portanto, que as empresas deveriam ser legalmente obrigadas a alocar 20% de seus gastos de investimento para pesquisar os riscos associados à IA e desenvolver maneiras eficazes de gerenciá-los.

Para o autor, é crucial direcionar recursos substanciais para a pesquisa e o desenvolvimento de medidas de segurança e regulamentação no campo da IA.

O rápido avanço da tecnologia requer uma abordagem proativa na identificação e na mitigação de riscos potenciais, especialmente considerando as implicações em termos de confiança pública, privacidade e segurança.