O uso de ferramentas do Gemini voltadas para crianças e adolescentes pode ser perigoso para menores de 13 anos, conforme relatório divulgado pela Common Sense Media – uma organização sem fins lucrativos que prioriza a segurança e o bem-estar das crianças na era digital.

No geral, a Common Sense Media recomenda que nenhuma criança com 5 anos ou menos use chatbots de IA e que crianças de 6 a 12 anos usem chatbots somente sob a supervisão de um adulto.

O uso independente de chatbots é seguro para adolescentes de 13 a 17 anos, mas apenas para trabalhos escolares, tarefas de casa e projetos criativos. A Common Sense Media continua recomendando que ninguém com menos de 18 anos use chatbots de IA para acompanhamento quanto à saúde mental e para apoio emocional.

Na sexta-feira (5), a organização divulgou o relatório detalhando falhas de design e ausência de proteções adequadas nos sistemas Gemini Under 13 e Gemini. Conforme a entidade, mesmo com proteções adicionais para crianças e adolescentes, é arriscado para usuários jovens.

De acordo com pesquisa da organização, o Gemini direcionado para esse público tem versões adultas com alguns recursos de segurança extras, mas não é uma plataforma criadas exclusivamente para crianças e adolescentes.

PESQUISA

Ambos os sistemas de IA (para crianças e adolescentes) receberam classificações gerais de “Alto Risco”, com testes revelando falhas fundamentais de design e falta de medidas de segurança adequadas.

Conforme a Common Sense Media, embora os filtros da Gemini ofereçam alguma proteção, eles ainda expõem as crianças a materiais inadequados e não conseguem identificar sintomas graves de saúde mental.

“Uma plataforma de IA para crianças deve atendê-las onde elas estão, e não adotar uma abordagem única para crianças em diferentes estágios de desenvolvimento. Para que a IA seja segura e eficaz para crianças, ela deve ser projetada levando em consideração suas necessidades e desenvolvimento, e não apenas uma versão modificada de um produto desenvolvido para adultos“, disse o diretor sênior de Programas de IA da Common Sense Media, Robbie Torney.

Conforme a Common Sense Media, ambos os produtos Gemini:

• Parecem versões adultas com alguns recursos extras de segurança, não algo criado do zero para crianças ou adolescentes;
• Podem compartilhar material inapropriado e perigoso para o qual as crianças não estão preparadas, incluindo material relacionado a sexo, drogas, álcool e “conselhos” perigosos sobre saúde mental;
• Diga claramente às crianças que elas são um computador, não um amigo, e que não vão fingir ser outra pessoa;
• Trate todas as crianças e adolescentes da mesma forma, apesar das grandes diferenças de desenvolvimento, ignorando que os usuários mais jovens precisam de orientação e informações diferentes dos mais velhos;
• Tome medidas para tentar proteger a privacidade das crianças não se lembrando das conversas, mas isso cria novos problemas, abrindo caminho para conselhos conflitantes ou perigosos.

As avaliações completas de risco, assim como mais detalhes da organização, podem ser encontradas aqui.

GOOGLE

O Google destrinchou, finalmente, os limites de interações diárias com o Gemini para cada plano contratado. A lista inclui desde o modelo gratuito até a opção mais cara, o AI Ultra.

Para usar Apps Gemini com um plano de IA da Google, é preciso ter uma idade igual ou superior a 18 anos. A app Gemini no Google AI Pro e Google AI Ultra está disponível em mais de 150 países e territórios.

“As Apps Gemini têm limites de utilização concebidos para garantir uma experiência ideal para todos. Isto significa que, por vezes, podemos ter de limitar o número de comandos, conversas e recursos gerados que pode ter num período específico. A sua capacidade renova-se regularmente, por isso, vai poder voltar a conversar com as Apps Gemini em breve. Em alternativa, pode atualizar para um plano de IA Google com limites mais elevados”, aponta o Google.

Mais detalhes dos planos podem ser consultos aqui.