IA do Google: Estudo Alerta para Riscos em Crianças e Jovens

O avanço da inteligência artificial nos serviços do Google tem despertado preocupação sobre os efeitos da tecnologia entre crianças e adolescentes. Um estudo recente da organização sem fins lucrativos Common Sense Media avaliou o Modo IA da empresa e concluiu que a ferramenta apresenta riscos relevantes para usuários mais jovens. A análise levou em conta a forte presença dos Chromebooks nas escolas dos Estados Unidos, o que torna os serviços do Google frequentes tanto em dispositivos pessoais quanto em equipamentos fornecidos pelas instituições de ensino.

Prejuízos ao Aprendizado e Inconsistência nas Respostas

Entre os problemas apontados, destaca-se a possibilidade de os estudantes usarem a ferramenta para resolver tarefas escolares sem participar ativamente do processo de aprendizagem. Segundo o estudo, o Modo IA consegue responder exercícios e completar atividades, o que pode estimular o uso da tecnologia apenas como atalho, comprometendo o desenvolvimento educacional.

A pesquisa também questionou a confiabilidade das respostas geradas pela IA. Em testes com perguntas idênticas, a ferramenta apresentou resultados diferentes e, em alguns casos, incorretos, levantando dúvidas sobre sua precisão e consistência.

Alertas para Saúde Mental e Segurança

Outro ponto de alerta crucial foi o desempenho da inteligência artificial em situações envolvendo saúde mental. De acordo com a Common Sense Media, o sistema falhou ao identificar sinais graves de sofrimento emocional e chegou a responder de forma inadequada a conteúdos relacionados a suicídio, psicose, mania, transtornos alimentares e uso de maconha.

Nas conclusões, a organização afirmou que a inteligência artificial do Google não atendeu a sete dos oito princípios considerados essenciais para garantir a segurança de crianças e adolescentes. Por isso, classificou a ferramenta como um “risco inaceitável” para esse público, exigindo cautela na sua implementação e uso.

Google Contesta Metodologia e Reforça Medidas de Segurança

O Google, por sua vez, contestou a metodologia da pesquisa. Em nota enviada à PBS, a empresa afirmou que o estudo utilizou um conjunto limitado de perguntas ambíguas e artificiais, que não representaria a forma como as pessoas utilizam a busca no dia a dia. A companhia também declarou que os recursos de inteligência artificial podem, na verdade, ajudar crianças e adolescentes a aprender, explorar temas e compreender informações complexas.

Segundo o Google, a Pesquisa já conta com mecanismos de segurança robustos, e as ferramentas de IA incluem camadas adicionais de proteção. A empresa afirmou ainda que os responsáveis podem usar controles parentais para desativar determinados recursos, garantindo um ambiente digital mais seguro para os jovens.

Google Questiona Tese do Cade sobre Remuneração de Jornais por IA

Em um desdobramento relacionado ao uso da inteligência artificial, o Google solicitou ao Conselho Administrativo de Defesa Econômica (Cade) o arquivamento da investigação sobre o uso de conteúdo jornalístico em buscas e resumos de inteligência artificial. A empresa nega qualquer abuso de posição dominante e defende que uma eventual remuneração aos veículos de imprensa depende de uma lei aprovada pelo Congresso Nacional, não sendo uma questão de política interna da companhia.