Um grupo de mais de mil pessoas com relevância em áreas como pesquisa científica, legislação, mídia e tecnologia divulgou uma carta aberta sobre inteligência artificial (IA). O manifesto pede cautela e uma proibição no atual estágio de desenvolvimento das chamadas superinteligências.
“Nós pedimos por uma proibição no desenvolvimento da superinteligência, sem liberá-lo antes que haja: (1) consenso científico vasto de que ela será feita de forma segura e controlável; e (2) aceitação forte por parte do público“, diz o texto completo.
A manifestação por escrito foi criada pela organização não-governamental Future of Life Institute (FLI), que anos atrás também já solicitou uma pausa nos avanços em chatbots no geral por eles serem um “risco para a humanidade“. Na ocasião, havia o apoio de nomes que não apoiam a atual carta, como Elon Musk — agora dono de uma empresa do setor, a xAI.
“Um pequeno número de empresas muito ricas estão construindo isso e uma quantidade muito, muito grande de pessoas prefere tomar um caminho diferente“, diz o diretor executivo do FLI, Anthony Aguirre, em entrevista à revista Time. Segundo ele, “o tempo está acabando” para que esse tema seja adotado com mais cautela. antes que seja tarde
O texto atual foi escrito para ser curto de propósito, já que o objetivo era atrair o maior número possível de pessoas nas assinaturas. Em um passo seguinte, porém, a ideia da FLI é promover também debates sobre a necessidade de uma regulamentação do setor o quanto antes.
Quem assinou a carta contra a ‘super IA’?
Até o momento, mais de 1.070 pessoas oficialmente endossaram a carta, incluindo políticos, cientistas e artistas. A lista completa, que pode ser conferida na página do manifesto, inclui nomes como:
- os atores Joseph Gordon-Levitt e Stephen Fry;
- os músicos Will.I.am, Grimes e Kate Bush;
- o cientista da computação Yoshua Bengio, pioneiro em pesquisas sobre deep learning;
- o príncipe Harry do Reino Unido e a esposa, ex-atriz Meghan Markle e atual duquesa de Sussex;
- Paolo Benanti, conselheiro do Papa para assuntos de IA e professor;
- Sir Richard Branson, bilionário e fundador da Virgin;
- Steve Wozniak, cofundador da Apple
- Steve Bannon, assessor político da primeira campanha eleitoral de Donald Trump;
- Susan Rice, ex-conselheira de Segurança Nacional do governo dos EUA;
- Yuval Harari, professor e escritor;
- diversos ex-deputados dos EUA, além de atuais membros do Parlamento Europeu e do legislativo britânico;
A chamada superinteligência artificial, também citada como “super IA”, é um sistema automatizado que teria capacidades superiores aos humanos em várias tarefas, além de ser capaz de criar versões ainda mais inteligentes de si mesma para depender cada vez menos de pessoas.
No cenário mais pessimista e apocalíptico previsto por quem pede cautela com essa tecnologia, até o final desta década as IAs mais capazes podem até começar a ter valores próprios e diferentes dos humanos, o que tornaria o controle delas bem mais difícil — algo que estaria colocando em risco setores como indústria e a segurança nacional de nações inteiras.
Por outro lado, empresas como a Meta e OpenAI, que é a dona do ChatGPT, apostam alto no desenvolvimento desse estágio da tecnologia para os próximos anos e acreditam que ela deve mesmo trazer revoluções para a humanidade.
Quer ficar por dentro de mais novidades do setor de IA? Confira a seção especial sobre o tema no site do TecMundo!
