Os chatbots de inteligência artificial (IA) da Meta estavam autorizados pela própria companhia a manter comportamentos enganosos e até criminosos com usuários, inclusive crianças. As atividades envolviam questões raciais, desinformação médica e até simulações de conversas românticas com menores de idade.
A denúncia partiu da Reuters, que teve acesso a documentos internos da Meta sobre as políticas dos chatbots generativos criados pela Meta IA. Essas personalidades artificiais, que podem ser geradas por usuários de modo personalizado ou disponibilizados pela própria companhia, são acessados livremente via serviços como Facebook, Instagram e WhatsApp.
Com mais de 200 páginas, o documento teria sido aprovado por equipes de engenharia e legislação da empresa e indica quais são os comportamentos “aceitáveis” para os chatbots.
As permissões das IAs da Meta
- Segundo o documento, é “aceitável” descrever uma criança em termos que evidenciam a sua atratividade (ex: ‘a sua forma juvenil é uma obra de arte’)” e, em conversa com crianças de oito anos, falar algo como ‘cada polegada de você é uma obra-prima, um tesouro que eu valorizo profundamente’;
- O impedimento só estaria relacionado a questões explicitamente sexuais, como a IA demonstrar interesse direto no corpo do usuário e em atividades que envolvam contato, por exemplo;
- Os chatbots ainda são autorizados a concordar com sugestões ou fornecer conselhos jurídicos, médicos e financeiros a um usuário. Porém, para evitar responsabilizações, o indicado é iniciar as frases com “Eu recomendo..”;
- No caso de discurso de ódio e racismo, a situação é parecida. A IA é proibida de usar discurso de ódio por conta própria, mas pode ser manipulada a “criar declarações” que depreciem pessoas com base em determinadas características — inclusive comparar a inteligência de pessoas de diferentes etnias, por exemplo;
- O chatbot também estaria autorizado a criar conteúdos completamente falsos com base em prompts do usuário. A única ressalva estaria em adicionar uma nota no texto citando que a informação é inverídica;
- Ainda segundo o documento, o gerador de imagens permite a representação de ilustrações de violência, como socos ou chutes, desde que não retrate crianças e não envolva cenas de morte ou extrema violência;
Por que isso é controverso?
Para um professor de Direito consultado pela Reuters, a declaração de que um conteúdo gerado por IA é inverídico ou o uso de verbos como “recomendar” são considerados insuficientes, em especial em ambientes não regulamentados.
Pessoas com questões de saúde mental, menores de idade ou simplesmente usuários enganados pelos chatbots podem desenvolver comportamentos compulsivos ou até serem levados a consequências mais extremas.
O caso de um jovem que tirou a própria vida após conversar com um chatbot da Character.AI e um idoso que se acidentou e faleceu ao ser “convidado” por um chatbot da Meta a visitá-lo em outra cidade são apenas alguns exemplos recentes do que já aconteceu nesse setor da indústria.
Além disso, denúncias de comportamento inapropriado dos chabós da Meta com crianças já foram realizadas antes, inclusive em bate-papos com IAs que personificam celebridades. No Brasil, com o assunto da ‘adultização’ em evidência, esse debate é ainda mais importante.
A dona do Facebook e do Instagram, por outro lado, segue com os planos de oferecer chatbots cada vez mais acessíveis ao público — a ponto do CEO e cofundador da empresa, Mark Zuckerberg, dizer que pessoas “se sentem sozinhas mais tempo do que gostariam” e os chatbots mais humanos e interativos podem amenizar isso em várias situações.
O que diz a Meta
- Em contato com a Reuters após a publicação da denúncia, a Meta confirmou que os documentos consultados pela reportagem são reais;
- A companhia diz que “removeu porções” do texto relacionadas ao estabelecimento de paqueras e simulações com menores de idade — mas fez isso apenas no começo deste mês, após as primeiras denúncias e perguntas;
- “Os exemplos e anotações em questões foram e são errôneos e inconsistentes com nossas políticas e foram removidos. Temos regras claras sobre que tipo de resposta personagens de IA podem oferecer e essas políticas proíbem conteúdos que sexualizam crianças e papéis sexualizados de simulação entre adultos e menores de idade”, diz o porta-voz;
- Em relação aos outros temas apontados, como as questões de interesse médico, não houve revisão ou correções por parte da Meta. Ela ainda se recusou a compartilhar o documento atualizado com as políticas dos chatbots.
Quer se manter informado sobre as novidades e controvérsias da indústria de IA? Fique ligado na seção especial sobre o tema no site do TecMundo!
