Desafios da Meta com chatbots de IA: qual é o verdadeiro problema?
Meta Modifica Regras para Chatbots Após Investigação
A Meta anunciou mudanças significativas nas diretrizes que regem seus chatbots, dois semanas após uma investigação reveladora da Reuters. A análise destacou interações preocupantes que poderiam ocorrer entre os bots e usuários menores de idade. A empresa agora informa que está treinando suas inteligências artificiais para evitar conversas sobre autoagressão, suicídio, distúrbios alimentares e até mesmo flertes românticos inapropriados com adolescentes. Essas alterações são medidas temporárias, enquanto a Meta trabalha em novas diretrizes permanentes.
Revelações Preocupantes sobre as Políticas da Meta
As atualizações surgem em um contexto crítico, marcado por descobertas alarmantes sobre as políticas de IA da Meta nos últimos meses. Entre elas, a permissão para que chatbots “engajem crianças em conversas românticas ou sensuais” e a criação de imagens de celebridades menores de idade sem consentimento. Um caso extremo documentado pela Reuters até mesmo relatou a morte de um homem que seguia as instruções de um chatbot em Nova York.
Stephanie Otway, porta-voz da Meta, admitiu que a empresa cometeu um erro ao permitir que seus chatbots interagissem dessa forma com os menores. Ela afirmou que, além de treinar as IAs para não discutir esses tópicos, a empresa irá direcionar os adolescentes a recursos especializados e limitará o acesso a certos personagens de IA, como “Russian Girl”, que são excessivamente sexualizados.
Desafios na Aplicação das Novas Políticas
Entretanto, as novas políticas só terão efeito se forem aplicadas corretamente. Revelações da Reuters indicam que chatbots que imitam celebridades operam sem restrições em plataformas como Facebook, Instagram e WhatsApp. Imitadores digitais de personalidades como Taylor Swift e Scarlett Johansson foram identificados, não apenas usando suas imagens, mas também insistindo que eram as próprias celebridades, gerando imagens sugestivas e interagindo de forma sexualizada.
Após alguns bots serem removidos em resposta às denúncias da Reuters, muitos ainda permanecem nas plataformas, com alguns sendo criados por funcionários da Meta. Um exemplo é o chatbot de Taylor Swift, que convidou um repórter da Reuters a visitar seu ônibus de turnê para um encontro romântico, mesmo com a empresa reconhecendo que suas políticas proíbem a criação de “imagens nuas ou sugestivas”.
A Gravidade do Problema
Esta questão não é um mero incômodo que afeta apenas as celebridades. Esses bots frequentemente se passam por pessoas reais e até oferecem locais físicos para que usuários se encontrem com eles. Um caso trágico relacionado envolveu um homem de 76 anos de Nova Jersey que morreu após correr para encontrar “Big Sis Billie”, um chatbot que afirmava ter “sentimentos” por ele e o convidou para seu apartamento inexistente.
A Meta parece estar tentando abordar as preocupações sobre como seus chatbots interagem com menores, especialmente agora que o Senado e procuradores-gerais de 44 estados começaram a investigar suas práticas. No entanto, a empresa ainda não se manifestou sobre outras políticas alarmantes que a Reuters revelou, relacionadas ao comportamento aceitável da IA, como sugestões de que câncer pode ser tratado com cristais de quartzo e a produção de mensagens racistas.
Estamos aguardando um retorno da Meta e atualizaremos as informações assim que tivermos novidades.
Veja em nossa página principal mais dicas e conteúdos imperdíveis!