A Google iniciou a implementação de seu chatbot Gemini AI para menores de 13 anos, começando nos Estados Unidos e no Canadá, com planos de expansão para a Austrália.
A plataforma está disponível por meio de contas do Family Link, o que traz preocupações quanto à privacidade, à desinformação e à segurança infantil. Com a inteligência artificial cada vez mais presente no cotidiano, essa iniciativa ressalta a importância crescente da responsabilidade digital.
O Gemini será ativado automaticamente nas contas infantis, sendo necessário que os pais o desativem manualmente, caso desejem. As crianças poderão solicitar conteúdos em texto ou imagem, gerados pela IA, sem supervisão humana.
IA generativa e motores de busca
Embora a Google afirme que os dados gerados não serão usados para treinar o modelo, as preocupações com privacidade e precisão continuam crescendo.
Ao contrário dos motores de busca, que exibem materiais originais, ferramentas de IA, como o Gemini, criam novos conteúdos baseados em padrões. Isso pode confundir as crianças, que podem acreditar que os resultados são precisos ou que estão interagindo com uma pessoa real.
A confusão não é exclusiva dos pequenos, já que até mesmo adultos e profissionais têm sido enganados por chatbots, o que aumenta o risco para os mais jovens.
Riscos e a importância da orientação parental
A Google promete proteções integradas para bloquear conteúdos inadequados; no entanto, esses filtros podem também restringir o acesso a materiais educativos ou importantes.
Por exemplo, ao bloquear palavras relacionadas à puberdade, informações de saúde úteis podem tornar-se inacessíveis. Assim, é essencial que os pais estejam envolvidos, revisem o conteúdo e orientem as crianças no uso dessas ferramentas de forma responsável.
Desafios regulatórios persistentes
Apesar de uma proibição iminente nas redes sociais para menores de 16 anos na Austrália, chatbots de IA, como o Gemini, continuarão acessíveis, criando novas brechas.
Esse lançamento destaca a urgente necessidade de leis mais rigorosas de responsabilidade digital para responsabilizar as gigantes da tecnologia.
