A OpenAI anunciou um novo movimento estratégico para reforçar a segurança no desenvolvimento de tecnologias avançadas. A criadora do ChatGPT confirmou que será a principal investidora do aporte de US$ 15 milhões na Red Queen Bio, uma startup voltada a impedir que atores mal-intencionados usem inteligência artificial para criar armas biológicas – um tema que tem ganhado importância à medida que modelos avançados ampliam suas capacidades. As informações são da Reuters.
OpenAI amplia foco em segurança biológica
Segundo Hannu Rajaniemi, cofundador da Red Queen Bio, o objetivo é garantir que as defesas da indústria de IA evoluam na mesma velocidade dos riscos. A iniciativa faz parte de um esforço maior da OpenAI para apoiar empresas que lidam diretamente com ameaças emergentes no uso da tecnologia.
Em um movimento semelhante no mês anterior, a companhia já havia investido na Valthos, uma startup de biosegurança baseada em Nova York.
Jason Kwon, diretor de estratégia da OpenAI, explicou que a organização pretende fortalecer o ecossistema como um todo. Para ele, a melhor forma de mitigar riscos é com mais tecnologia, ampliando a capacidade de identificar e neutralizar potenciais ameaças biológicas antes que elas se tornem reais.
Listas de preocupações levantadas por pesquisadores sobre o uso da IA:
- aceleração no desenvolvimento de medicamentos;
- criação de novas vacinas em menos tempo;
- possibilidade de uso indevido dessas capacidades para projetar armas biológicas;
- necessidade de sistemas de defesa proporcionais ao avanço da tecnologia.
Startup usará IA e experimentos laboratoriais
A Red Queen Bio nasceu a partir da Helix Nano, uma empresa de terapias baseadas em mRNA em estágio clínico que já utiliza IA no design de medicamentos. A Helix Nano também colaborou com a OpenAI na criação de testes para identificar riscos biológicos associados a modelos de inteligência artificial.
Como parte da transação, o CEO da OpenAI, Sam Altman, e a membro do conselho, Nicole Seligman – ambos investidores anteriores da Helix Nano – receberão ações da Red Queen Bio. Kwon também possui participação indireta, avaliada em menos de US$ 2.500 por meio da aceleradora Y Combinator.
Ainda assim, a OpenAI afirma que nenhum desses executivos participou da aprovação do investimento, que foi revisado por membros sem conflitos de interesse e pela equipe de compliance da empresa.
Leia mais:
- OpenAI corrige problema do ChatGPT com travessão após críticas de usuários
- ChatGPT vira ‘grupo de WhatsApp’: IA participa de conversas com até 20 pessoas
- Big techs lucram com IA enquanto OpenAI e Anthropic enfrentam rombo financeiro
De acordo com a startup, a combinação de modelos de IA e métodos tradicionais de laboratório será essencial para identificar novos riscos e desenvolver contramedidas. Rajaniemi ressalta que o avanço biotecnológico, impulsionado pela IA, está ocorrendo mais rapidamente do que o previsto, tornando urgente a criação de novas camadas de defesa. Além da OpenAI, outros investidores incluem Cerberus Ventures, Fifty Years e Halcyon Futures.
O post OpenAI investe em startup que combate armas biológicas criadas por IA apareceu primeiro em Olhar Digital.
