Tag: Transparência Algorítmica

Publicado em por — Deixe um comentário

REGULAMENTAÇÃO DA IA: LIÇÕES DA UNIÃO EUROPEIA E PERSPECTIVAS PARA O BRASIL

Em 10 de abril de 2018, vinte e quatro Estados-Membros da União Europeia assinaram um termo de cooperação durante o evento “Digital Day 2018” para tratar da inteligência artificial (IA). Em 25 de abril do mesmo ano, a Comissão Europeia emitiu uma comunicação sobre IA, sugerindo o avanço da capacidade tecnológica e industrial da União Europeia em prol da IA, a preparação para mudanças socioeconômicas decorrentes dessa tecnologia e a criação de um marco regulatório eficaz, baseado em valores democráticos e na proteção dos direitos fundamentais, para garantir o desenvolvimento ético da IA.

A Comissão Europeia solicitou que os Estados-Membros coordenassem planos estratégicos nacionais para a implementação da IA até o final de 2018. Na ocasião, foi criado o Grupo de Peritos de Alto Nível em Inteligência Artificial (AI HLEG), composto por pesquisadores, acadêmicos, representantes da indústria e da sociedade civil. Paralelamente, foi estabelecida a “Aliança Europeia para a IA” para fomentar a participação democrática, incluindo audiências públicas sobre diversos temas relacionados à IA.

Em 18 de dezembro de 2018, o AI HLEG submeteu à consulta pública o primeiro esboço das “Diretrizes Éticas para a Fiabilidade da Inteligência Artificial”. Após debates intensos, a versão final foi apresentada em 8 de abril de 2019, intitulada “Ethics Guidelines for Trustworthy AI”. Este documento delineou quatro princípios éticos fundamentais:

  1. Respeito à autodeterminação humana: A IA deve respeitar os direitos e garantias fundamentais, bem como a democracia.
  2. Prevenção de danos: Devem ser adotadas medidas robustas para evitar danos aos seres humanos.
  3. Justiça: Garantir uma distribuição equitativa dos benefícios e custos, eliminando qualquer tipo de preconceito.
  4. Transparência e clareza: Os sistemas de IA devem ser compreensíveis para os operadores humanos.

Além dos princípios, foram apresentados requisitos para a fiabilidade da IA, abrangendo supervisão humana, robustez técnica, privacidade e proteção de dados, transparência, diversidade, bem-estar social e ambiental, e prestação de contas.

Em 7 de dezembro de 2018, a União Europeia estabeleceu um plano coordenado de medidas para a implementação da IA, incentivando os Estados-Membros a elaborarem planos nacionais até meados de 2019. Posteriormente, em 19 de fevereiro de 2020, a Comissão Europeia lançou o relatório “White Paper on Artificial Intelligence: an European approach to excellence and trust”, reforçando as diretrizes éticas e destacando a necessidade de regulação da responsabilidade civil por danos causados por produtos e serviços de IA. Sugeriu-se a revisão da “Product Liability Directive” de 1985, para abordar as complexidades da IA, como a dificuldade de provar defeitos de programação em tecnologias como carros autônomos.

Na mesma data, a Comissão Europeia aprovou o plano estratégico para os dados, prevendo um aumento significativo no volume de dados na era do Big Data. Este plano destacou a cooperação internacional necessária para a aplicação de medidas regulatórias devido à circulação transfronteiriça de dados.

Nos Estados Unidos, o “Future of AI Act” de 2017 propôs diretrizes éticas para o desenvolvimento de IA, sem abordar diretamente a área da saúde. Documentos recentes, como o “Artificial Intelligence Act” europeu e o “Algorithmic Accountability Act” norte-americano, evitam discutir a terminologia de “inteligência”, preferindo referir-se a “sistemas decisionais automatizados” e reafirmando a importância de parâmetros éticos para o desenvolvimento de algoritmos.

No Brasil, várias iniciativas legislativas buscaram regulamentar a IA, mas com propostas inicialmente superficiais. Em fevereiro de 2022, foi instituída uma comissão de juristas para elaborar um substitutivo sobre IA, resultando no Projeto de Lei nº 2.338/2023. Este projeto, inspirado na abordagem europeia, estratifica soluções conforme o grau de risco de cada atividade de IA.

Desde sua apresentação, o projeto recebeu diversas emendas parlamentares e está sendo analisado pela Comissão Temporária Interna sobre Inteligência Artificial no Brasil, um fórum multissetorial que garante regulamentações abrangentes e eficazes, equilibrando inovação tecnológica e proteção de direitos fundamentais. A versão mais recente, proposta em abril de 2024, reflete uma preocupação com a parametrização ética, alinhando-se aos princípios europeus.

A aprovação do Regulamento Geral Europeu sobre IA representa um marco significativo, baseado em princípios éticos que contribuem para o debate sobre responsabilidade civil. Este esforço europeu, resultado de anos de discussões, serve de exemplo inspirador para outras nações, incluindo o Brasil, onde os trabalhos legislativos sobre IA continuam em andamento, merecendo atenção e acompanhamento cuidadoso.

Publicado em por — Deixe um comentário

A INTERSEÇÃO ENTRE A INTELIGÊNCIA ARTIFICIAL E A PROTEÇÃO DE DADOS PESSOAIS NO BRASIL

À luz do inexorável avanço da Inteligência Artificial (IA) em todas as esferas da sociedade contemporânea, emerge como imperativo inadiável a reflexão profunda sobre a interseção deste avanço tecnológico com a salvaguarda dos dados pessoais. No Brasil, esta questão assume contornos particularmente significativos, dada a vigência da Lei Geral de Proteção de Dados (LGPD), promulgada em 2018. É imperioso, portanto, abordar este tema com a acuidade e o discernimento que a conjuntura demanda, sob a égide da responsabilidade e da ética que deve nortear a utilização de tão potente ferramenta.

Em consonância com o crescente influxo do internet das coisas na vida quotidiana dos brasileiros, constata-se que a digitalização da sociedade não é um fenômeno restrito a qualquer região específica, mas sim uma realidade global, impondo-se com igual vigor em terras brasileiras. A adoção da IA no Brasil, tal como noutros países da América Latina, vem demonstrando um crescimento exponencial, com implicações profundas não apenas no tecido econômico e social, mas também e sobretudo na esfera da privacidade e da proteção de dados.

A LGPD, enquanto arcabouço normativo que regula o tratamento de dados pessoais, tanto por entidades privadas quanto públicas, estabelece princípios e diretrizes essenciais para assegurar a privacidade dos dados dos cidadãos brasileiros. A legislação enfatiza a necessidade de consentimento expresso para a coleta e processamento de dados pessoais, além de estabelecer direitos claros para os titulares dos dados, tais como o direito de acesso, retificação e exclusão.

No entanto, a implementação efetiva da LGPD no contexto da IA apresenta desafios peculiares, em virtude da complexidade e da dinâmica próprias dos sistemas algorítmicos. Questões relativas à transparência dos algoritmos, ao potencial de vieses discriminatórios e à garantia de consentimento informado emergem como preocupações centrais, exigindo uma abordagem jurídica refinada e aprofundada.

Neste contexto, é imperativo que o desenvolvimento e a aplicação da IA no Brasil sejam conduzidos sob a égide de um marco regulatório robusto, que concilie o potencial inovador da tecnologia com a imperativa proteção dos direitos fundamentais. A esta luz, afigura-se essencial a atualização constante da legislação vigente, bem como a formulação de novas diretrizes que abordem especificamente as peculiaridades da IA.

A transparência dos processos algorítmicos, a implementação de avaliações de impacto relativas à proteção de dados e a adoção de práticas de governança de dados que assegurem a accountability são medidas que se impõem como fundamentais. Ademais, a educação e a sensibilização da população acerca dos direitos relativos à proteção de dados e dos riscos inerentes ao uso da IA constituem pilares indispensáveis para a construção de uma sociedade digitalmente madura e eticamente responsável.

O desafio que se coloca ao Brasil no que tange à interseção entre a IA e a proteção de dados pessoais não é trivial, demandando um esforço concertado tanto do poder público quanto da iniciativa privada e da sociedade civil. É mister que se caminhe na direção de um equilíbrio harmonioso entre inovação tecnológica e respeito aos direitos individuais, onde a ética e a transparência sejam os pilares que sustentam a adoção responsável e consciente da IA. Assim, o Brasil não só se manterá a par dos avanços globais em matéria de tecnologia e proteção de dados, como também se destacará como líder na promoção de uma sociedade digital justa, inclusiva e segura para todos os seus cidadãos.

Publicado em por — Deixe um comentário

INOVAÇÃO RESPONSÁVEL EM IA: ANPD CONVIDA A SOCIEDADE PARA CONSULTA SOBRE SANDBOX REGULATÓRIO

A Autoridade Nacional de Proteção de Dados (ANPD) iniciou uma consulta pública sobre seu programa piloto de sandbox regulatório, um ambiente controlado para testar tecnologias relacionadas à inteligência artificial (IA). A intenção é que, através das inovações testadas nesse ambiente, boas práticas possam ser implementadas para garantir conformidade com as normas de proteção de dados pessoais.

O programa piloto é parte de uma iniciativa mais ampla para lidar com as implicações da inteligência artificial e a proteção de dados. A ANPD busca promover a inovação responsável em IA e aumentar a transparência algorítmica.

Este projeto é baseado em um estudo técnico da ANPD, chamado “Sandbox regulatório de inteligência artificial e proteção de dados no Brasil”, que apresenta como os sandboxes regulatórios podem ser efetivamente utilizados por Autoridades de Proteção de Dados para regular tecnologias emergentes. A ANPD está colaborando com o Banco de Desenvolvimento da América Latina e do Caribe (CAF) nesse processo, compartilhando conhecimentos para o desenvolvimento desses ambientes regulatórios.

A consulta à sociedade, que está aberta até 1º de novembro de 2023, tem como objetivo coletar informações e dados relevantes para moldar o sandbox regulatório. Essa é uma maneira de incluir uma variedade de perspectivas e entender como a regulamentação futura pode afetar diferentes partes interessadas no contexto da inteligência artificial e proteção de dados. A transparência e a inclusão estão no centro deste processo, com todas as contribuições disponíveis para consulta.