Duvidar da veracidade de fotos e vídeos em redes sociais, enviados pelo WhatsApp ou outras plataformas se tornou cada vez mais comum, diante dos avanços da inteligência artificial. A partir de comandos simples, é possível criar imagens realistas e que enganam até as pessoas mais atentas.
Esses materiais manipulados podem ser utilizados para entretenimento, na criação de personagens e cenários para filmes, séries e jogos, ou para simular situações cotidianas e brincadeiras. Mas a tecnologia também é aproveitada para espalhar desinformação e prejudicar reputações.
Com a enorme quantidade de materiais disponíveis online e tantos riscos envolvidos, o governo federal criou um grupo de trabalho para estudar as “realidades sintéticas”, como também são conhecidos esses conteúdos compartilhados online. A iniciativa foi anunciada em maio.
Segundo a Secretaria de Comunicação Social da Presidência da República (SECOM/PR), o grupo formado por especialistas de várias áreas vai auxiliar o governo a identificar melhor as mídias sintéticas e a entender quais são os impactos na sociedade, em diferentes aspectos.
O que são realidades sintéticas?
De modo geral, o conceito abrange “qualquer tipo de conteúdo, seja vídeo, imagem, texto ou voz, gerado parcial ou totalmente por meio de inteligência artificial ou aprendizado de máquina”. A definição é da techUK, associação britânica especializada em tecnologia digital.
Podem ser classificados assim desde as músicas feitas por IA, que se espalham pelo streaming, às imagens geradas por CGI vistas na telinha e na telona, assim como a síntese de voz e os conteúdos de realidade aumentada e realidade virtual. Até os textos criados pelo ChatGPT se enquadram nisso.
Esses materiais se caracterizam por serem hiper-realistas, simulando com altíssima precisão a realidade, seja uma imagem ou uma voz, graças aos desenvolvimentos da IA generativa. Assim, se tornam quase indistinguíveis, desafiando a noção de verdade.
Deepfakes são um dos maiores exemplos, consistindo na alteração de informações visuais ou sonoras para criar conteúdos falsos convincentes, como os vídeos em que o rosto de uma pessoa é substituído pelo de outra. As falas também podem ser modificadas.
A nova realidade da internet
Um dos futuristas mais influentes da atualidade, o especialista em IA, Ian Beacraft, acredita que as mídias sintéticas vão dominar o ambiente online, tornando ainda mais difícil a distinção. Esses conteúdos tinham pouco espaço há cinco anos, mas desde então têm ganhado mais destaque.
Ele prevê que as mídias geradas parcialmente ou totalmente por IA e algoritmos serão 99% do conteúdo disponível na internet em 10 anos. Enquanto isso, outros grandes nomes do setor acreditam em uma porcentagem menor, de 90%, mas ainda assim bastante considerável.
“Porque nós vamos viver nesse espaço entre a realidade física e a realidade virtual, namorando assistentes digitais, ou entrando e saindo de diferentes mundos, ou trabalhando com sistemas de IA. De certa maneira, a realidade sintética será a nossa realidade”, justificou Beacraft, em entrevista à Época Negócios.
Também conhecido pelas palestras no festival South by Southwest (SXSW), o futurista comentou, ainda, que os jovens já não fazem mais distinção entre os dois mundos e provavelmente irão se adaptar mais facilmente à nova realidade.
O que fará o grupo criado para estudar as realidades sintéticas?
Uma das missões do grupo de trabalho do governo será avaliar o cenário descrito pelo especialista. De acordo com a Portaria publicada no Diário Oficial da União, o foco estará nos deepfakes, devido ao uso constante desses materiais em campanhas que espalham desinformação.
A iniciativa quer identificar riscos e impactos das mídias sintéticas nos direitos fundamentais, no patrimônio dos cidadãos e no erário público. Para tanto, o trabalho envolverá estudos técnicos sobre a produção e o compartilhamento desses materiais no ambiente online.
Os participantes também deverão desenvolver medidas e recomendar práticas que ajudem na proteção da população e na contenção de golpes e fraudes com deepfakes. Mais detalhes a respeito do trabalho serão divulgados em breve.
Você já ficou em dúvida sobre a veracidade de um vídeo compartilhado no X, TikTok, Facebook e Instagram ou recebido no WhatsApp? Conta pra gente, comentando nas redes sociais do TecMundo.