A OpenAI corrigiu uma falha de segurança que permitia atores mal-intencionados extraírem dados sigilosos do Gmail. O patch foi confirmado pela firma de segurança Radware, que descobriu a vulnerabilidade, mas apontou que nenhum atacante havia se aproveitado da brecha até então.
Em comunicado com a Radware, a OpenAI confirmou que solucionou o problema em 3 de setembro. Um porta-voz da gigante explicou que seus modelos de IA são muito importantes, e que “pesquisadores frequentemente testam esses sistemas de maneiras adversas, e acolhemos suas pesquisas, pois elas nos ajudam a melhorar”.
Além da possibilidade de extrair dados do Gmail, uma outra vulnerabilidade no ChatGPT também afetava serviços como o Google Drive, Dropbox, Outlook, etc. Diferente desta, era possível obter esses dados por meio de um processo de ataque de injeção de prompt com um código malicioso oculto.
Como a brecha captava dados do Gmail?
O problema envolvendo o ChatGPT foi encontrado no agente de Deep Research, também chamado de Pesquisa Profunda. Essa tecnologia cria relatórios extensos sobre diversos tópicos, mas continha uma brecha que permitia hackers desviarem dados confidenciais de contas corporativas ou pessoais do Gmail.
- Para comprovar o golpe, os pesquisadores enviarem emails para eles mesmos;
- Esses emails tinham instruções escondidas que pediam ao Deep Research para procurar informações pessoais da caixa de entrada dos destinatários;
- Dentre os dados encontrados, estavam nomes completos e endereços;
- Os especialistas instruíram o agente de IA a enviar essas informações para um endereço web sob seu controle.
Usuários do Gmail que conectaram sua conta do Google com o serviço da OpenAI podem ter sido expostos sem saber. Embora muitos grupos cibercriminosos usem diversas táticas para roubar dados, a Radware mostra que pequenas brechas nesses assistentes de IA podem ser uma ponte para o sucesso desses hackers.
A agência afirma que as vítimas não precisavam clicar em nada para ter seus dados roubados, diferente de muitos golpes de phishing. Para mais informações sobre segurança e novos golpes, fique conectado no site do TecMundo.