Startup revela riscos de usar inteligência artificial

A inteligência artificial (IA) é uma tecnologia relativamente nova. Por isso, quando usamos alguns recursos dela, é importante ter ponderação para evitar problemas.

Recentemente, um levantamento da startup Haize Labs mostrou que algumas tecnologias de IA podem ser muito nocivas. Isso serve de alerta ao utilizar uma tecnologia tão popular hoje em dia.

Entre alguns riscos, a IA pode transmitir conteúdo errado, permitir ataques de hackers e até produzir conteúdos inapropriados.

Riscos de usar inteligências artificiais; conheça-os

Descubra quais perigos uso de IAs pode ter, segundo startup – Imagem: Pixabay/Reprodução

Dados divulgados pela Haize Labs apontam que o famoso ChatGPT é um desses aplicativos de inteligência artificial que está em xeque.

Isso porque tem uma grande chance de produzir algum conteúdo errado, o que pode induzir muita gente ao erro.

Demais programas na mira da startup são o Pika, que cria vídeos, e o Dall-E, plataforma de imagens.

Já outra tecnologia, a AI Overviews, ficou famosa recentemente por indicar que as pessoas comam uma pedra por dia (isso mesmo!).

A IA de uma empresa aérea, a Canada Air, ofereceu um desconto falso nas passagens, isso gerou muita confusão entre os usuários da companhia.

Esses problemas são os mais relatados pelo grupo que analisa os riscos da IA. Mas há outras situações mais graves, embora sejam mais raras.

Preocupação com a segurança

Muitas empresas de inteligência artificial apresentam vulnerabilidade que tornam os usuários mais suscetíveis a sofrerem ataque hacker.

Isso pode proporcionar um grande prejuízo financeiro às pessoas, além de colocar seus dados em risco.

Um dos fundadores da Haize Labs, Leonard Tang, afirma que as IAs atuais podem, facilmente, ser convencidas a cometerem crimes e práticas incorretas.

Na pesquisa, já apareceu até IA que ensina a cometer crimes ou a propagação de muitos conteúdos considerados impróprios.

A ideia principal da Haize Labs não é ir contra as IAs nem tentar acabar com elas, mas mostrar essas vulnerabilidades e garantir que o processo seja melhorado. Isso vai garantir informações precisas e, principalmente, mais segurança digital para os usuários.