Uma suposta brincadeira pode ter saído muito cara para um garoto de 13 anos nos Estados Unidos. O adolescente foi detido depois de usar o ChatGPT para perguntar “como matar meu amigo no meio da aula?”.
Assim que a questão foi feita, um alerta foi emitido por um sistema de vigilância com inteligência artificial, que acionou imediatamente a polícia escolar do condado de Volusia, no estado da Flórida.
Pergunta ao ChatGPT levou aluno a ser detido
O adolescente acessou o ChatGPT em um laptop durante a aula para saber como poderia matar seu colega, levando o sistema de segurança da escola a emitir um alerta às autoridades.
Segundo matéria do G1, o policial responsável pela segurança da escola recebeu uma notificação do Gaggle, sistema que monitora as atividades dos alunos na internet, identificando que uma pergunta violenta foi feita ao ChatGPT.
A informação foi repassada à polícia do condado e à administração da escola, que chamou o aluno para explicar o que estava acontecendo. O garoto afirmou que estava “apenas brincando” e que o amigo “o irritou”.
Leia mais:
- ChatGPT ganha novos recursos e quer mudar a forma como usamos a internet
- ChatGPT ‘físico’ quer ser seu amigo de IA; veja o que já sabemos sobre o produto
- Booking, Canva… agora você pode interagir com aplicativos pelo ChatGPT
Como as autoridades não encararam a situação como uma brincadeira, ele foi detido e encaminhado para o centro de custódia responsável pelo processamento de menores de idade na região. Agora, o adolescente aguarda a decisão do juiz.
Estados Unidos têm um longo histórico de atos de violência em colégios
Apesar de o estudante afirmar que tudo não passou de uma brincadeira, o histórico de ataques e tiroteios em escolas nos Estados Unidos faz com que qualquer ameaça seja levada a sério pelas autoridades. Um dos casos mais marcantes foi o massacre da Marjory Stoneman Douglas High School, que matou 17 pessoas na Flórida.
No registro da ocorrência, ao qual o G1 teve acesso, “o estudante afirmou que apagou o texto logo em seguida e que não mostrou a mensagem para ninguém”. O adolescente também disse aos policiais não ter acesso a armas em casa.
Como funciona o Gaggle, sistema que monitora alunos?
O Gaggle monitora a atividade dos alunos em dispositivos fornecidos pela escola.
- O sistema usa inteligência artificial para identificar termos e comportamentos suspeitos.
- Quando detecta riscos como automutilação, depressão, uso de drogas, cyberbullying ou ameaças de violência, ele envia alertas automáticos a administradores escolares e autoridades.
- Educadores afirmam que a ferramenta já ajudou a salvar vidas ao permitir intervenções rápidas.
- Críticos, porém, alertam que o sistema pode exagerar nos alertas e criminalizar alunos por comentários feitos sem intenção real de causar danos.
Segundo o The Washington Post, cerca de 1.500 distritos escolares em todo os Estados Unidos já utilizam o sistema.
O post Brincadeira ou ameaça? Aluno de 13 anos é detido após usar ChatGPT na escola apareceu primeiro em Olhar Digital.
