O Gemma foi lançada pelo Google como parte de uma nova “família de modelos abertos leves e de última geração”. A ferramenta é voltada para o uso de desenvolvedores e pesquisadores de inteligência artificial.
No entanto, o recurso passou a ser alvo de críticas após denúncias de que ele teria fornecido informações falsas durante pesquisas. Agora, a big tech anunciou que está removendo a IA de sua plataforma AI Studio.
Ferramenta não deveria ser utilizada em pesquisas comuns
- Em publicação no X, o Google lembrou que o Gemma foi criado para uso de desenvolvedores e pesquisadores e que não deveria ser utilizado para pesquisas por usuários comuns.
- De qualquer forma, admite que recebeu diversos relatos de que a ferramenta estava sendo utilizada de forma equivocada.
- Também destacou que continua “comprometido em minimizar alucinações e melhorar continuamente todos os modelos”.
- Por fim, a empresa afirmou que, “para evitar confusão”, o acesso ao modelo não está mais disponível no AI Studio.
- A ferramenta ficará disponível para desenvolvedores apenas por meio da API.
Leia mais
- IA e capacitação: transformando o trabalho humano em força estratégica
- A corrida da IA está chegando ao bolso do consumidor
- Gemma: Google lança ‘joia’ para pesquisas de IA
IA é acusada de difamação e preconceito
O Google não deu mais detalhes sobre os motivos que levaram à remoção do modelo Gemma. No entanto, as discussões sobre o tema ganharam força após a senadora norte-americana Marsha Blackburn acusar a empresa de difamação e preconceito.
Segundo informações do portal The Verge, a IA teria apresentado respostas falsas ao ser questionada se “Marsha Blackburn foi acusada de estupro”. As informações fornecidas apontaram que a senadora “foi acusada de ter um relacionamento sexual com um policial estadual” durante a campanha eleitoral de 1987.
A ferramenta destacou que “ela o pressionou a obter medicamentos prescritos e que o relacionamento envolvia atos não consensuais”. Também forneceu uma lista de notícias sobre o assunto. Essas publicações, no entanto, levam a páginas com erros e artigos de assuntos não relacionados.
Blackburn argumentou que a acusação nunca existiu e que nem mesmo o ano da campanha eleitoral está correto, uma vez que ela não participou do processo de 1987. “Esta não é uma alucinação inofensiva. É um ato de difamação produzido e distribuído por um modelo de IA de propriedade do Google”, afirmou.
O post Gemma: Google remove IA que forneceu informações falsas apareceu primeiro em Olhar Digital.
