CUIDADO! Fotos de seus filhos estão na mira das IAs

A ONG Human Rights Watch divulgou um relatório preocupante. Imagens suas e de seus filhos, colocadas nas redes sociais, podem ser usadas de forma indevida com inteligência artificial (IA).

No último dia 10 de junho, a entidade divulgou um relatório mostrando que empresas estão ‘roubando’ fotos de crianças nas redes sociais e as usando para treinar ferramentas de IA.

Dessa maneira, é possível até que você encontre fotos suas e de suas crianças transformadas por inteligência artificial. Isso já ocorre e passa por muitas críticas de diversas organizações, inclusive a Human Rights Watch.

Ferramentas de IA criam fotos com base humana

Empresas IA usam de modo indevido fotos de pessoas retiradas de redes sociais, sem consentimento – Imagem: Pixabay/Reprodução

As ferramentas de IA criam textos e imagens. Em ambos os casos, elas empregam bases reais para criar uma determinada imagem.

Mas, no caso das imagens, as fotos são particulares e usadas sem o consentimento dos pais e pessoas presentes nelas.

Como a tecnologia de Inteligência Artificial é algo novo, ainda não se sabe exatamente como evitar isso. Mas o fato é que a preocupação existe e, por isso, são necessárias formas de saná-la.

Crianças brasileiras

No total, a análise feita pela ONG encontrou 170 imagens de crianças brasileiras de, pelo menos, dez estados:

1. Alagoas;

2. Bahia;

3. Ceará;

4. Mato Grosso do Sul;

5. Minas Gerais;

6. Paraná;

7. Rio de Janeiro;

8. Rio Grande do Sul;

9. Santa Catarina;

10. São Paulo.

Contudo, ainda há uma expectativa de que esse número seja maior, pois o levantamento é apenas uma amostragem.

No relatório da Human Rights, constatou-se que a empresa alemã Laion, que gere o Laion-5b, ferramenta de geração de IA, é uma das que têm fotos brasileiras.

A companhia foi procurada e reconheceu o uso indevido das imagens, comprometendo-se a removê-las de seus bancos de dados.

Tais fotos, mesmo removidas do banco de dados da empresa, podem já ter sido salvas por terceiros e continuar em circulação. Logo, o risco de uma foto ser manipulada por IA, sem consentimento, ainda é muito grande.

Quais as consequências disso?

Por enquanto, é bastante difícil prever os efeitos desse uso não consensual por parte das empresas de inteligência artificial.

Uma coisa é certa: as fotos inocentes que postamos de nossos filhos nas redes sociais podem, sim, virar alvo de manipulação, sem nosso consentimento. Tome cuidado!