Marco Legal da IA: PL 2338/2023 e Impactos

O PL 2338/2023, Marco Legal da Inteligência Artificial no Brasil, foi aprovado pelo Senado Federal em 10 de dezembro de 2024 e atualmente tramita na Câmara dos Deputados, onde aguarda parecer do relator na Comissão Especial — até agora não há lei sancionada. O projeto adota uma abordagem baseada em riscos, classificando os sistemas de IA em inaceitável, alto, limitado e mínimo, e prevê responsabilidade objetiva para sistemas de alto risco, com a ANPD como autoridade competente coordenadora do Sistema Nacional de Regulação e Governança de IA (SIA). Para os usuários, garante direito à informação, explicação e contestação de decisões automatizadas, além de proteção especial a grupos vulneráveis. Na criação de imagens por IA, o texto impacta transparência, direitos autorais no treinamento, marcação de conteúdo gerado e responsabilização por resultados prejudiciais, complementando a LGPD e o Marco Civil da Internet.

O Projeto de Lei 2338/2023, aprovado pelo Senado Federal em 10 de dezembro de 2024, marca um ponto de virada na regulamentação da Inteligência Artificial (IA) no Brasil. Este artigo explora os principais aspectos do projeto, suas implicações e como ele poderia afetar diferentes setores, incluindo a criação de imagens por IA.

Situação Atual e Próximos Passos

Atualmente, o PL 2338/2023 encontra-se no Núcleo de Redação Legislativa do Senado, aguardando envio à Câmara dos Deputados. Esta etapa é crucial no processo legislativo e pode resultar em modificações ao texto original.

Categorização de Riscos: Base da Regulamentação

O projeto adota uma abordagem baseada em riscos, categorizando sistemas de IA em diferentes níveis:

1. Risco Inaceitável: Sistemas que violam direitos fundamentais.

2. Alto Risco: Sistemas usados em áreas críticas como saúde e justiça.

3. Risco Limitado: Sistemas como chatbots, que requerem transparência moderada.

4. Risco Mínimo: Sistemas simples com pouco potencial de dano.

   
   

Esta categorização permite uma regulação proporcional, concentrando recursos em áreas de maior risco potencial.

Direitos dos Usuários e Proteção de Grupos Vulneráveis

O PL 2338/2023 estabelece direitos fundamentais para usuários de sistemas de IA, incluindo:

• Informação prévia sobre interações com IA

• Explicações sobre decisões tomadas por IA

• Direito de contestar resultados

  
  

Especial atenção é dada à proteção de grupos vulneráveis, como menores de idade, exigindo adaptações e controles específicos em sistemas de IA acessíveis a esses grupos.

Governança, Transparência e Proteção de Segredos Industriais

O projeto demanda medidas rigorosas de governança e transparência, incluindo avaliações de impacto para sistemas de alto risco. Ao mesmo tempo, busca equilibrar essas exigências com a proteção de segredos industriais, permitindo que certas informações permaneçam confidenciais, desde que não comprometam a segurança e os direitos dos usuários.

Responsabilidade Civil e Autoridade Competente

O PL estabelece regras claras para responsabilização por danos causados por sistemas de IA, com responsabilidade objetiva para sistemas de alto risco. Além disso, prevê a designação de uma autoridade competente para fiscalizar e aplicar a lei.

Impacto na Criação de Imagens por IA

A criação de imagens por IA é um campo em rápida evolução e seria afetada por esta lei de várias maneiras:

1. Categorização de Risco: Sistemas de geração de imagens provavelmente seriam classificados como de risco limitado ou mínimo, a menos que sejam usados em contextos sensíveis (como geração de evidências forenses).

2. Transparência: Desenvolvedores de IA para criação de imagens teriam que fornecer informações claras sobre o funcionamento de seus sistemas, incluindo possíveis vieses nos dados de treinamento.

3. Direitos Autorais: O projeto aborda a questão do uso de obras protegidas por direitos autorais no treinamento de IA, o que é crucial para sistemas de geração de imagens. Isso pode afetar como esses sistemas são treinados e operados.

4. Marcação de Imagens Geradas por IA: Poderia haver exigências para que imagens geradas por IA sejam claramente identificadas como tal, para evitar desinformação.

5. Responsabilidade: Criadores de sistemas de IA para geração de imagens poderiam ser responsabilizados por conteúdo prejudicial ou enganoso gerado por seus sistemas.

   
   

Desafios de Implementação

A implementação do PL 2338/2023 enfrentará diversos desafios:

1. Complexidade Técnica: A rápida evolução da IA, especialmente em áreas como geração de imagens, pode dificultar a aplicação consistente da lei.

2. Equilíbrio entre Inovação e Regulação: Garantir que a lei não sufoque o desenvolvimento tecnológico, especialmente em campos criativos como a geração de imagens por IA.

3. Fiscalização Efetiva: Desenvolver mecanismos para monitorar o cumprimento da lei, especialmente em plataformas online onde imagens geradas por IA são frequentemente compartilhadas.

4. Adaptação das Empresas: Especialmente para startups e pequenas empresas no setor de tecnologia criativa.

   
   
   
   

Aplicação a Startups e Pequenas Empresas

O projeto prevê condições diferenciadas para startups e pequenas empresas, reconhecendo suas particularidades. Isso pode incluir prazos mais longos para adaptação e requisitos simplificados de conformidade, o que é particularmente relevante para empresas inovadoras no campo da criação de imagens por IA.

Combate a Fake News e IA

Embora o PL não aborde diretamente as fake news, suas disposições sobre transparência e explicabilidade dos sistemas de IA podem ajudar a mitigar a propagação de desinformação, inclusive através de imagens manipuladas ou geradas por IA.

Relação com Outras Leis

O PL 2338/2023 complementa a LGPD e o Marco Civil da Internet, focando especificamente em questões relacionadas à IA. No contexto da criação de imagens, isso significa uma camada adicional de regulamentação sobre como dados pessoais e direitos autorais são tratados em sistemas de geração de imagens por IA.

Conclusão

O PL 2338/2023 representa um passo significativo na regulamentação da IA no Brasil, com implicações abrangentes para diversos setores, incluindo a criação de imagens por IA.

À medida que o projeto avança para a Câmara dos Deputados, será crucial manter um diálogo aberto entre legisladores, desenvolvedores de tecnologia, artistas e outros stakeholders para refinar e aprimorar esta importante legislação, garantindo que ela promova inovação responsável e proteja direitos fundamentais no emergente campo da IA criativa.

---

Perguntas Frequentes sobre o Marco Legal da IA (PL 2338/2023)

P: O PL 2338/2023 já foi sancionado como lei no Brasil?

R: Não. O PL 2338/2023 foi aprovado pelo Senado Federal em 10 de dezembro de 2024 e remetido à Câmara dos Deputados em março de 2025, onde aguarda parecer do relator na Comissão Especial. Até o momento, não há lei sancionada regulamentando a inteligência artificial no Brasil.

P: Como o PL 2338/2023 classifica os riscos dos sistemas de IA?

R: O projeto adota uma abordagem baseada em riscos, classificando os sistemas em quatro níveis: risco inaceitável (que violam direitos fundamentais), alto risco (áreas críticas como saúde e justiça), risco limitado (como chatbots, com transparência moderada) e risco mínimo (sistemas simples com baixo potencial de dano).

P: Qual a responsabilidade por danos causados por sistemas de IA de alto risco?

R: O PL prevê responsabilidade objetiva para sistemas de alto risco, ou seja, o fornecedor responde pelos danos independentemente de culpa. A ANPD (Autoridade Nacional de Proteção de Dados) atuaria como autoridade competente, coordenando o Sistema Nacional de Regulação e Governança de IA (SIA).

P: Como o Marco Legal da IA afeta a criação de imagens por IA?

R: O projeto impacta a geração de imagens em quatro frentes: classificação de risco (geralmente limitado ou mínimo), transparência sobre funcionamento e vieses, tratamento de direitos autorais no treinamento, e possível exigência de marcação de imagens geradas por IA para evitar desinformação.

P: O PL 2338/2023 se relaciona com a LGPD?

R: Sim. O projeto complementa a LGPD e o Marco Civil da Internet, focando especificamente em questões de IA. No contexto da geração de imagens, isso adiciona uma camada de regulamentação sobre como dados pessoais e direitos autorais são tratados nos sistemas de IA.

---

Dr. Nelson Alexander Schepis Montini (OAB/SP 316.892) — Perito Judicial e Extra Judicial — Montini e Ponce Sociedade de Advogados (OAB/SP 44275) — montinieponceadvocacia.com.br

Referências Legais

PL nº 2338/2023 (Marco Legal da Inteligência Artificial) — aprovado pelo Senado em 10/12/2024, em tramitação na Câmara dos Deputados

Lei nº 13.709/2018 (LGPD — Lei Geral de Proteção de Dados)

Lei nº 12.965/2014 (Marco Civil da Internet)

ABNT NBR ISO/IEC 42001:2024 (Sistema de Gestão de Inteligência Artificial)

ABNT NBR ISO/IEC 38507:2023 (Governança de Inteligência Artificial)

ABNT NBR ISO/IEC 23894:2023 (Gestão de Riscos em IA)

Até a data de publicação deste artigo, ja ha as seguintes ISO que norteiam o assunto:

ABNT NBR ISO/IEC 42001:2024

Publicação: Abril de 2024

Foco: Sistema de Gestão de Inteligência Artificial (SGIA)

Objetivo: Especifica requisitos para estabelecer, implementar, manter e melhorar continuamente um SGIA em organizações de qualquer porte ou setor

Benefícios: Assegura o desenvolvimento e utilização responsáveis de sistemas de IA, abordando desafios como considerações éticas, transparência e aprendizado contínuo

ABNT NBR ISO/IEC 38507:2023

Publicação: Outubro de 2023

Foco: Governança de Inteligência Artificial

Objetivo: Fornece orientações sobre as implicações de governança do uso de IA pelas organizações

Benefícios: Oferece princípios e estruturas que asseguram uma integração responsável da IA alinhada aos objetivos estratégicos das organizações

ABNT NBR ISO/IEC 23894:2023

Foco: Gestão de Riscos em IA

Objetivo: Oferece orientações sobre a gestão de riscos especificamente relacionados à IA

Aplicação: Para organizações que desenvolvem, produzem, implantam ou utilizam produtos, sistemas e serviços baseados em IA