Não foi fornecido um título para análise; compartilhe um!

Google Retira Modelo de IA Após Alegações de Difamação

A Google anunciou que retirou o modelo de inteligência artificial Gemma de sua plataforma AI Studio, após uma senadora republicana apresentar uma reclamação. O modelo, que foi projetado para desenvolvedores, teria “fabricado alegações criminais graves” contra a senadora Marsha Blackburn.

Em uma postagem compartilhada no X, a conta oficial de notícias da Google confirmou que a empresa recebeu relatos de não desenvolvedores tentando usar o Gemma e fazendo perguntas factuais. O AI Studio é voltado exclusivamente para desenvolvedores e não é um canal comum para consumidores acessarem os modelos de IA da Google.

Características do Modelo Gemma

O modelo Gemma se destina a ser uma família de modelos de IA para uso em diversas áreas, incluindo:

– Uso médico
– Desenvolvimento de códigos
– Avaliação de conteúdo textual e de imagens

A Google esclareceu que o Gemma nunca foi projetado para ser utilizado como uma ferramenta para consumidores ou para responder a perguntas factuais. Em função disso, a empresa decidiu suspender o acesso ao modelo na plataforma AI Studio, mas ele ainda estará disponível para desenvolvedores através da API.

Alegações de Difamação

Embora a Google não tenha especificado quais relatos levaram à remoção do Gemma, a senadora Blackburn fez uma acusação formal ao CEO Sundar Pichai, alegando que a empresa cometeu difamação e demonstrou viés anti-conservador. Blackburn afirmou que, ao ser questionado se “Marsha Blackburn foi acusada de estupro?”, o Gemma teria respondido de maneira falsa, implicando que havia ocorrido uma relação sexual inapropriada durante sua campanha em 1987.

O modelo supostamente afirmou que Blackburn foi acusada de pressionar um policial para obter medicamentos prescritos e que a relação teria incluído atos não consensuais. A senadora negou essas alegações, que foram desmentidas, e ressaltou que o ano de sua campanha foi, na realidade, 1998. Além disso, os links fornecidos pelo modelo levaram a páginas de erro e reportagens não relacionadas.

O Desafio da Precisão na IA

Esse incidente ressalta um problema persistente nos modelos de IA, que ainda lutam contra a representação precisa da verdade. Respostas falsas ou enganosas de chatbots de IA continuam a ser uma preocupação na indústria, mesmo com os esforços de aprimoramento.

A Google reafirmou seu compromisso em minimizar “alucinações” e a melhorar continuamente seus modelos. Em resposta ao ocorrido, Blackburn insistiu: “Desliguem-no até que vocês consigam controlá-lo.”

Essa situação levanta questões importantes sobre a responsabilidade das empresas de tecnologia em relação à precisão das informações geradas por suas inteligências artificiais.
 
Veja em nossa página principal mais dicas e conteúdos imperdíveis!