Um homem que procurava a mulher com a qual conversava por meio do Facebook Messenger sofreu um acidente e morreu ao tentar encontrá-la, em Nova York (Estados Unidos), e sem saber que, na verdade, interagia com um bot de IA da Meta. O caso aconteceu em março e foi revelado pela Reuters na quinta-feira (14).
Nascido na Tailândia, Thongbue Wongbandue tinha 76 anos e morava em Nova Jersey (EUA). Ele sofreu um derrame há quase 10 anos e apresentava histórico de confusão mental, desde então, o que fez a família desconfiar quando o aposentado disse que iria viajar para visitar um amigo.
O que aconteceu com o homem que flertava com a IA da Meta?
A viagem em questão aconteceria a partir de um convite de “Big sis Billie”, uma personagem de IA com quem Bue interagia romanticamente por meio do Messenger. O idoso acreditava estar conversando com uma jovem atraente, de carne e osso, e ficou ainda mais convencido após o bot afirmar que era real.
- “Eu sou real e estou sentada aqui corando por causa de você!”, dizia uma das mensagens trocadas entre eles;
- Segundo a agência de notícias, a maioria das mensagens enviadas por Billie era sedutora e continha emojis de coração e piscadas;
- Aparentemente apaixonado pela paquera virtual, como mostram as mensagens, Bue perguntou onde ela morava e a IA forneceu endereço e código para entrada no edifício;
- “Meu endereço é: 123 Main Street, Apartamento 404 NYC. E o código da porta é: BILLIE4U. Devo esperar um beijo quando você chegar?”, digitou Billie.
Após o convite feito pela IA sedutora, o tailandês decidiu ir até Nova York para conhecê-la. No entanto, ele sofreu um acidente a caminho da estação onde pegaria o trem para fazer a viagem, com a queda resultando em graves ferimentos na cabeça, e morreu três dias depois no hospital.
O bate-papo entre Bue e Billie foi descoberto pela filha do ex-chef de cozinha durante a internação. Depois de procurar e não encontrar mensagens e ligações do suposto amigo que o homem iria encontrar, ela abriu o Facebook Messenger no celular do pai e visualizou todo o histórico de conversas com a IA da Meta.
Personagem criada em parceria com influenciadora
A IA com a qual o idoso flertava foi desenvolvida a partir de uma parceria entre a dona do Facebook e a influenciadora Kendall Jenner, em 2023, conforme a reportagem. A ideia era aproveitar a imagem da modelo como avatar para funcionar como uma espécie de irmã mais velha oferecendo conselhos.
Mas pouco tempo depois, a imagem de Jenner foi retirada do avatar e substituída pela de outra mulher. Embora tenha se recusado a comentar a respeito da morte, a big tech disse que o bot denominado Big sis Billie “não é Kendal Jenner” nem pretende ser uma representação dela.
A matéria também cita um relatório interno da Meta que trazia orientações a respeito do treinamento de chatbots criados para se tornarem companheiros virtuais. No documento, há exemplos de interações consideradas “aceitáveis” como, por exemplo, conversas românticas com menores e desinformação sobre doenças graves.
Questionada, a companhia disse que o relatório é verdadeiro, mas declarou ter removido os trechos referentes às dramatizações românticas com crianças e adolescentes. Já as partes sobre informações falsas em determinados contextos e a romantização com adultos seguem inalteradas.
Curtiu o conteúdo? Continue se atualizando no TecMundo e compartilhe as notícias com os amigos nas redes sociais.