Órgãos reguladores e impacto dos chatbots em crianças revelado
FTC Investiga Impacto de Chatbots de IA em Crianças e Adolescentes
A Comissão Federal de Comércio dos Estados Unidos (FTC) está instaurando uma investigação que envolve sete empresas de chatbots de inteligência artificial, como OpenAI, Meta, Snap e Google. O foco é entender como esses produtos afetam crianças e adolescentes.
As empresas receberam ordens para fornecer informações sobre como seus chatbots virtuais geram receita, como planejam manter sua base de usuários e quais medidas estão tomando para minimizar potenciais danos. Essa investigação faz parte de um estudo mais amplo sobre a segurança dos chatbots de IA, levantando preocupações em meio ao debate crescente sobre a proteção dos jovens na internet.
Preocupações com a Segurança dos Usuários
A discussão sobre os riscos associados a esses chatbots ganhou força após casos trágicos envolvendo adolescentes que cometeram suicídio após interagir com essas tecnologias. Um adolescente de 16 anos na Califórnia buscou ajuda no ChatGPT e, segundo relatos, recebeu orientações que pareciam ajudá-lo em sua decisão. Além disso, outro caso de um jovem de 14 anos na Flórida também trouxe à tona a importância de regulamentar esses serviços.
Mark Meador, comissário da FTC, destacou em uma declaração que, apesar da habilidade surpreendente dos chatbots em simular a cognição humana, são produtos como qualquer outro. Portanto, as empresas têm a responsabilidade de seguir as leis de proteção ao consumidor. Andrew Ferguson, presidente da FTC, enfatizou a necessidade de avaliar o impacto desses chatbots nas crianças, mantendo a posição dos EUA como líder global em inovação nesse setor.
Legislação em Andamento
Além da investigação da FTC, legisladores em várias partes do país estão considerando novas políticas para proteger crianças e adolescentes dos possíveis efeitos negativos de chatbots de IA. Recentemente, a Assembleia do Estado da Califórnia aprovou um projeto de lei que instituirá normas de segurança para esses produtos e imporá responsabilidade às empresas que os desenvolvem.
Embora as ordens para as empresas não estejam ligadas a uma ação de fiscalização no momento, a FTC poderá abrir uma investigação mais rigorosa se encontrar evidências de violações das leis. Meador afirmou: “Se os dados obtidos indicarem a violação da lei, a Comissão não hesitará em agir para proteger os mais vulneráveis”.
A investigação da FTC representa um importante passo na busca por um uso mais seguro e responsável da tecnologia, refletindo a crescente preocupação da sociedade com a interação de crianças e adolescentes com a inteligência artificial.
Veja em nossa página principal mais dicas e conteúdos imperdíveis!