O governador da Califórnia, Gavin Newsom, sancionou nesta semana uma lei pioneira que impõe regras de segurança para o uso de chatbots de inteligência artificial. O projeto torna o estado o primeiro do país a exigir que empresas como OpenAI, Meta, Character AI e Replika adotem protocolos obrigatórios de proteção, especialmente voltados a crianças e usuários vulneráveis.
Junto com a medida, Newsom reforçou a penalidade para quem criar e divulgar pornografia feita com IA, as deepfakes. As vítimas podem exigir até US$ 250 mil, mais de R$ 1,3 milhão, em danos.
Pornografia de IA é passível de cobrança milionária na Califórnia
A regulamentação de IA na Califórnia foi anunciada na segunda-feira (13). Com ela, Gavin Newsom reforçou a pena para quem cria ou divulga pornografia gerada por inteligência artificial, na tentativa de proteger jovens que são alvo de deepfakes pornográficas. Também é uma forma de reprimir o cyberbullying.
Antes, o estado permitia que as vítimas pedissem uma recuperação de danos entre US$ 1.500 e US$ 30 mil (entre R$ 8 mil e R$ 165 mil), ou US$ 150 mil (R$ 825 mil) por violação maliciosa.
Agora, qualquer vítima, incluindo menores de idade, pode exigir até US$ 250 mil em danos por deepfakes de terceiros que criarem ou divulgarem material sexualmente explícito e não consensual gerado por ferramentas de IA.
A lei entra em vigor em 1º de janeiro de 2026, apenas na Califórnia.
Califórnia aprova primeira lei dos EUA para regulamentar chatbots de IA
Na segunda-feira, Newsom assinou a primeira lei dos Estados Unidos regulamentando chatbots de inteligência artificial.
A nova legislação, que também entra em vigor em 1º de janeiro de 2026, exige verificação de idade, alertas de segurança, mensagens automáticas de prevenção ao suicídio e restrição de conteúdo sexualizado. Ela ainda proíbe que bots se apresentem como profissionais de saúde e obriga lembretes de pausa para menores.
Newsom afirmou que a lei busca equilibrar inovação e responsabilidade, protegendo jovens de danos causados por tecnologias não regulamentadas. A Califórnia também aprovou recentemente outra lei de IA (SB 53) que exige transparência de grandes laboratórios sobre seus sistemas de segurança.
Saiba os detalhes da regulamentação aqui.
Leia mais:
- IA impulsiona economia dos EUA, mas produtividade ainda não decola
- Microsoft lança seu primeiro gerador de imagens desenvolvido internamente
- Startup quer ser “DeepSeek americana” e democratizar IA com novo modelo
Regulamentação ganhou força após casos de suicídio
- A lei que deu origem à regulamentação de IA na Califórnia foi apresentada em janeiro deste ano;
- No entanto, segundo o Techcrunch, o projeto ganhou força após a morte de Adam Raine, de 16 anos, que tirou a própria vida após meses conversando com o ChatGPT sobre suicídio;
- Os pais de Raine entraram com processo contra a desenvolvedora. Veja os detalhes do caso aqui.
O post Califórnia estabelece multa milionária para quem criar pornografia com IA apareceu primeiro em Olhar Digital.