Aplicativo de IA de supermercado faz sugestões potencialmente letais a clientes; entenda o caso

Um supermercado da Nova Zelândia tentou inovar ao utilizar um aplicativo de Inteligência Artificial para auxiliar na alimentação de seus clientes.

No entanto, o que deveria ser uma solução fácil rapidamente se transformou em uma experiência bastante perigosa para as pessoas. O aplicativo sugeriu, entre outras coisas, que as pessoas bebessem cloro e usassem veneno para formigas nas receitas.

O novo aplicativo de IA, conhecido como Meal-bot, foi lançado pela rede de supermercados Pak’nSave. Ele representa uma forma criativa de usar os produtos alimentícios que as pessoas têm em casa, mas não sabem como aproveitar.

Após o lançamento do Meal-bot em junho, muitos usuários efetuaram o download e começaram a testar o novo companheiro de culinária. Contudo, rapidamente as redes sociais foram inundadas com relatos acerca de como o aplicativo estava funcionando de maneira incorreta.

Bebida com cloro? Entenda as receitas perigosas do supermercado

Basicamente, o que aconteceu foi que as pessoas começaram a adicionar todos os produtos que tinham em casa, segundo o jornal The Guardian. Assim, foi criada uma lista de compras com produtos em geral.

A partir desse momento, o aplicativo de IA começou a criar receitas que mesclavam produtos de limpeza e outros itens entre os ingredientes. Por exemplo, um mocktail com alvejante, um pão com veneno de formiga ou uma bebida com cloro.

De acordo com os usuários do X, anteriormente conhecido como Twitter, o aplicativo sugeriu uma receita de “mistura de água aromática” que usava cloro. Na descrição do bot, estava escrito: “a bebida não alcoólica perfeita para matar a sede e refrescar os sentidos”.

(Imagem: Freepik/Reprodução)

O que disse o supermercado sobre o erro no app?

Após as situações hilárias circularem pelas redes sociais, um representante do supermercado disse que algumas pessoas estavam usando o aplicativo de forma inadequada.

O supermercado da Nova Zelândia comprometeu-se a continuar ajustando o serviço para que este possa funcionar sem erros ou interferência dos usuários.

De todo modo, agora o aplicativo possui um aviso para esclarecer que as respostas do bot de Inteligência Artificial não são revisadas por uma pessoa. Portanto, ele pode apresentar erros nas receitas.