Tag: Avaliação de Impacto

Publicado em por — Deixe um comentário

COLORADO LIDERA INICIATIVA PIONEIRA NA REGULAÇÃO DE IA PARA EMPRESAS PRIVADAS

O estado do Colorado está prestes a se destacar como o primeiro nos Estados Unidos a impor restrições abrangentes ao uso de inteligência artificial (IA) por empresas privadas. A aguardada lei de proteção ao consumidor para inteligência artificial, SB24-205, foi recentemente encaminhada ao governador para assinatura e, se aprovada, entrará em vigor em 1º de fevereiro de 2026. Esta legislação inovadora busca proteger os cidadãos contra a discriminação algorítmica, exigindo que tanto desenvolvedores quanto implementadores de sistemas de IA de alto risco adotem práticas diligentes e responsáveis.

Definição de Sistemas de IA de Alto Risco

No contexto do SB24-205, sistemas de IA de alto risco são definidos como aqueles que, quando implementados, podem afetar negativamente a segurança ou os direitos fundamentais, influenciando substancialmente decisões consequentes. Estes sistemas necessitam de rigorosas medidas de segurança da informação para evitar seu uso indevido, já que podem representar riscos significativos tanto para os titulares dos dados quanto para a reputação das empresas que os utilizam.

Obrigações dos Desenvolvedores

De acordo com a nova lei, desenvolvedores de sistemas de IA de alto risco deverão:

  1. Divulgar Informações Cruciais: Fornecer documentação detalhada aos implementadores sobre o uso pretendido do sistema, riscos conhecidos ou previsíveis, um resumo dos dados utilizados para treinamento, possíveis vieses e medidas de mitigação de riscos.
  2. Declaração Pública: Emitir uma declaração pública resumindo os tipos de sistemas de alto risco desenvolvidos e disponíveis para os implementadores.
  3. Notificação de Discriminação: Informar o procurador-geral e os implementadores conhecidos sobre qualquer discriminação algorítmica descoberta, seja por autoavaliação ou aviso do implementador, dentro de 90 dias.

Obrigações dos Implementadores

Implementadores de sistemas de IA de alto risco devem:

  1. Política de Gestão de Riscos: Estabelecer uma política que governe o uso de IA de alto risco, especificando processos e pessoal responsáveis por identificar e mitigar a discriminação algorítmica.
  2. Avaliação de Impacto: Concluir uma avaliação de impacto para mitigar possíveis abusos antes que os consumidores usem seus produtos.
  3. Notificação ao Consumidor: Informar os consumidores sobre itens especificados se o sistema de IA de alto risco tomar uma decisão consequente.
  4. Direito de Exclusão: Se o implementador for um controlador sob a Lei de Privacidade do Colorado (CPA), deve informar o consumidor sobre o direito de optar por não ser perfilado em decisões totalmente automatizadas.
  5. Correção de Dados: Permitir que os consumidores corrijam dados pessoais incorretos processados pelo sistema ao tomar uma decisão consequente.
  6. Revisão Humana: Oferecer aos consumidores a oportunidade de apelar, através de revisão humana, uma decisão consequente adversa decorrente da implementação do sistema, se tecnicamente viável.
  7. Detecção de Conteúdo Sintético: Garantir que os usuários possam detectar qualquer conteúdo sintético gerado e informar aos consumidores que estão interagindo com um sistema de IA.

Cláusula de Porto Seguro

A lei inclui uma cláusula de porto seguro, fornecendo uma defesa afirmativa (sob a lei do Colorado em um tribunal do Colorado) para desenvolvedores ou implementadores que:

  1. Descubram e corrijam uma violação por meio de testes internos ou equipes de segurança.
  2. Cumprem com o framework de gestão de riscos de IA do Instituto Nacional de Padrões e Tecnologia (NIST) ou outro framework de gestão de riscos reconhecido nacional ou internacionalmente.

Impacto e Implicações Futuras

A iniciativa do Colorado marca um avanço significativo na regulamentação do uso de IA, destacando a importância de práticas responsáveis e transparentes no desenvolvimento e implementação dessas tecnologias. Ao estabelecer regras claras e rigorosas para evitar a discriminação algorítmica, a legislação visa proteger os consumidores de decisões potencialmente prejudiciais tomadas por sistemas de IA.

Conforme a tecnologia continua a avançar rapidamente, outras jurisdições podem observar atentamente a abordagem pioneira do Colorado, adotando medidas semelhantes para garantir que a inteligência artificial seja desenvolvida e utilizada de maneira ética e justa. A promulgação desta lei coloca o Colorado na vanguarda da regulamentação de IA e serve como um modelo para equilibrar a inovação tecnológica com a proteção dos direitos dos consumidores.

Publicado em por — Deixe um comentário

IMPLEMENTANDO UMA CULTURA DE PRIVACIDADE SOB A LEI GERAL DE PROTEÇÃO DE DADOS

A Lei Geral de Proteção de Dados do Brasil (LGPD), estabelecida pela Lei nº 13.709/18, estipula em seu artigo 50 uma diretriz importante para controladores e operadores de dados. Esta legislação exige que tais agentes estabeleçam “regras de boas práticas e de governança” que não apenas atendam aos direitos dos titulares de dados, mas também assegurem a implementação de padrões técnicos eficazes para a salvaguarda desses dados. Isso inclui a realização de ações educativas, a implementação de mecanismos de supervisão e a mitigação de riscos, entre outras práticas relevantes ao tratamento de dados pessoais.

Além disso, o parágrafo segundo do mesmo artigo da LGPD enfatiza a importância de que o controlador (e idealmente o operador também) implemente um programa de governança em privacidade. Este programa deve incorporar requisitos mínimos, como a demonstração do compromisso do controlador com a adoção de políticas internas e práticas adequadas para a proteção de dados, cobrindo todos os dados pessoais sob sua posse. É imperativo que o programa seja adaptado às particularidades da estrutura, escala e volume das operações da entidade, além de levar em conta a sensibilidade dos dados processados. Também é essencial estabelecer políticas e salvaguardas baseadas em uma avaliação de risco e impacto, mantendo a transparência para estabelecer uma relação de confiança com os titulares dos dados, integrando o programa à estrutura de governança corporativa da entidade, criando um plano de resposta a incidentes e garantindo sua constante atualização, como exemplificado pelo ciclo PDCA (planejar, fazer, verificar e agir).

No entanto, mais do que simplesmente cumprir um mandato legal, o programa de governança em privacidade deve fomentar uma cultura de proteção de dados dentro da organização, demonstrando à sociedade que há um comprometimento real com a privacidade. Isso deve refletir os princípios de boa-fé, transparência, responsabilização e prestação de contas, conforme estabelecido no artigo 6º da LGPD.

Para iniciar a implementação de um programa eficaz de governança em privacidade, é essencial que a organização elabore e divulgue uma declaração de missão ou visão relacionada à privacidade. Esta declaração deve comunicar de forma sucinta e clara o compromisso da organização com a privacidade, servindo como uma diretriz e um elemento-chave para o estabelecimento de um programa de privacidade que esteja alinhado com as realidades e expectativas da organização, dos titulares de dados e de todos os stakeholders.

A declaração de missão deve evidenciar por que a privacidade é um valor fundamental para a organização, estabelecendo sua posição sobre o tema. Ela deve articular, em poucas frases claras e concisas, o propósito e os ideais da organização em relação à privacidade.

Em suma, a declaração de missão deve refletir a aspiração da organização em relação à privacidade, definindo um objetivo claro a ser perseguido por meio de ações concretas para construir uma relação de confiança com os titulares dos dados.

Por último, é importante enfatizar que o programa de governança em privacidade é também necessário para entidades do setor público. A declaração da missão de privacidade, que pode ser integrada à Política de Privacidade, é fundamental para desenvolver uma cultura de privacidade e proteção de dados no setor público. Assim, o direito fundamental à proteção de dados pessoais, agora reconhecido na Constituição Brasileira através da Emenda Constitucional nº 115 de 2022, será respeitado em todas as organizações, sejam elas públicas ou privadas.