Como vai a regulamentação da Inteligência Artificial no Brasil?

Parâmetros sólidos precisam ser fundamentados antes que IA vire fonte de conflitos no direito pátrio

A implementação da Inteligência Artificial (IA) como nova alternativa para a solução de inúmeros problemas cotidianos é realidade no Brasil. Um estudo da Fundação Getúlio Vargas, citado em reportagem aqui no JOTA, demonstra que, somente no Judiciário brasileiro, existem cerca de 72 projetos que têm como base a IA nas mais diversas searas e instâncias.

A sua implementação traz consigo a necessidade urgente de discutir limitações e gerenciar seus riscos. Aspectos principiológicos (será que uma IA é capaz de ponderar princípios?), responsabilidades na esfera cível (quem responde pelos danos causados?), reflexos penais (ex: vieses discriminatórios da IA) e intercorrências administrativas e processuais (imaginou uma IA proferindo sentenças?) são apenas alguns dos contextos que, muito em breve, iremos nos deparar em discussões com base nesse tema primordial na revolução tecnológica em curso.

A ausência de parâmetros e bases regulatórias nos leva para um caminho de insegurança jurídica nas decisões balizadoras da IA. A partir daí, surge o questionamento: como anda a regulamentação da matéria no Brasil?

Existem poucos projetos de lei em trâmite em nosso legislativo federal que têm como foco principal essa pauta. Numa busca nos sistemas de consulta das atividades legislativas, verifica-se a existência de cinco projetos que apresentam a IA como temática principal, e diversos outros que citam a tecnologia em seus artigos.

Dos cinco supracitados, o mais presente na mídia é o PL 5051/2019, do senador Styvenson Valetim (PODEMOS – RN), que estabelece os princípios para o uso da IA no país. Em primeira análise, a proposição aparenta não trazer qualquer regulamentação efetiva. Talvez busque o ineditismo e a vanguarda na matéria. Em seus seis artigos, o projeto basicamente reitera princípios já encartados na Constituição que deverão ser respeitados quando do uso da IA, pouco inovando no assunto. Os trechos que possivelmente trazem algo novo dizem respeito à possibilidade de auditoria dos sistemas e a vinculação à supervisão humana, ainda numa discussão muito superficial diante da complexidade do assunto.

O Senado dispõe ainda de outros dois projetos em pauta. O 5.691/2019, também do senador Styvenson, que institui a Política Nacional de Inteligência Artificial, trazendo novamente uma regulamentação tímida; e o 872/2021, do senador Veneziano Rêgo (MDB – PB), que dispõe sobre o uso da Inteligência Artificial no Brasil. Numa análise de seus conteúdos, principalmente das “justificativas” (componente formalístico dos projetos de lei), estes deixam muito a desejar, não trazendo discussões, dados e propostas de regulamentação verdadeiramente técnicas.

A Câmara dos Deputados também não fica de fora. O Projeto de Lei 20/2021, do deputado Ângelo Bismarck (PDT – CE), tem o objetivo de estabelecer princípios, direitos e deveres para o uso de Inteligência Artificial no Brasil, apresentando um conteúdo mais completo que as propostas do Senado. Há outro projeto em trâmite na Câmara: o 240/2020, que cria a Lei da Inteligência Artificial, já apensado ao supracitado, mas com um conteúdo mais simplório sobre o tema. Há um detalhe neste último que merece atenção: é o de justificativa mais bem fundamentada, relatando um panorama mundial da regulamentação da IA e novas tecnologias.

Em âmbito procedimental, o pontapé inicial já foi dado nas duas casas legislativas. Entretanto, na construção do direito material da IA, há muito debate a ser realizado antes do encaminhamento de qualquer das propostas para apreciação. Nenhuma delas possui o grau de maturidade e especialidade técnica esperado para uma matéria tão importante.

Por outro lado, há uma entidade que merece destaque por tomar as rédeas da regulamentação da IA dentro da sua competência (não-unânime entre os estudiosos): o Conselho Nacional de Justiça. Por ser um tema cada vez mais hype no meio das Cortes, a IA está na mira da atuação da entidade. Duas normatizações merecem atenção: a Resolução 332/2020, que “dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário”, e a Portaria 271/2020, que “regulamenta o uso de Inteligência Artificial no âmbito do Poder Judiciário”. Ambas apresentam um trabalho mais minucioso do que vem sendo desenvolvido pelo legislativo federal.

Além da necessidade de amadurecimento, os aspectos da regulamentação possuem o agravante da urgência. A tecnologia é realidade no país e possui um nível de implementação exponencial por entidades das mais diversas esferas. Precisamos que o Brasil apresente e discuta projetos que, de um lado, não engessam o desenvolvimento de novos mercados baseados no uso de IA e outras tecnologias disruptivas, porém, de outro lado, não crie um ambiente altamente permissivo que impacte, de forma negativa, a vida dos brasileiros pelo uso indiscriminado.

Sundar Pichai, CEO do Google, publicou um artigo na Financial Times que é quase um manifesto pela regulamentação da IA. Em síntese, ele alega que apesar dos inquestionáveis benefícios da IA, precisamos ter os olhos voltados para o que pode dar errado, para que a tecnologia seja desenvolvida com ética, responsabilidade e segurança. Ele tem muita razão.

Os países na vanguarda da IA já trabalham a regulamentação num grau mais avançado de técnica, em que pese a matéria ainda ser a inicial: princípios e bases de aplicação da tecnologia. A União Europeia, ainda em 2019, publicou o guideline para uma IA de confiança, discorrendo sobre os seus três elementos essenciais: a legalidade, a ética e a solidez. O documento, produzido por um grupo de especialistas, ainda teve sequência com outros três documentos (recomendação de políticas e investimentos, lista de avaliação para IA confiável e considerações setoriais) que servem como base para a regulamentação própria da IA.

A China, país que lidera a implementação da tecnologia, publicou também em 2019 documento – desenvolvido pelo Ministério da Ciência e Tecnologia (MOST) – contendo princípios de governança para uma nova geração de IA, listando oito princípios que devem ser seguidos no desenvolvimento da tecnologia. No mesmo ano, a Câmara de Nova York apresentou o Algorithmic Accountability Act, uma das primeiras propostas normativas sobre o tema do continente.

Esse não é um movimento exclusivo dos países. Entidades transnacionais e as próprias empresas privadas vêm criando movimentos de regulamentação da IA. A Organização para a Cooperação do Desenvolvimento Econômico (OCDE) lançou em 2019 o documento de princípios, adotado por dezenas de países, dentre os quais o Brasil. As big techs – em especial a IBM, Microsoft e Google – estimuladas pela necessidade de estipulação de diretrizes próprias, também estão desenvolvendo seus próprios centros de pesquisa sobre a matéria, como o IBM Policy Lab e o OpenAI, que possui dentre os seus fundadores Elon Musk, defensor da regulamentação (“All orgs developing advanced AI should be regulated, including Tesla”, afirmou em um dos seus famosos twitts).

Esse aparato histórico mostra que o contexto da discussão começou em 2019 quase de forma simultânea na escala global, com base nas discussões mais primordiais de regulamentação de uma tecnologia tão revolucionária: aspectos éticos, princípios de aplicação e fundamentos gerais de uso. Não é uma realidade, portanto, legislações consolidadas que esteja num maior grau de avanço sobre a matéria. Ressalte-se que há exceções normativas de acordo com as peculiaridades dos países, como no caso da Alemanha e a regulamentação dos carros autônomos.

É preciso, portanto, consolidar tais aspectos básicos normativos para avançar sobre os reflexos práticos. E não fizemos sequer esse primeiro dever de casa. Só com ele conseguiremos regulamentar seus aspectos subsidiários da IA, mas que tem relevantes implicações jurídicas, tais como direitos de propriedade intelectual, impacto ambiental, limites da jurisdição das tecnologias.

Com tais bases delimitadas (ou até de forma simultânea), é possível que se apresente como essencial a regulamentação específica para cada uma de suas aplicações: indústria, veículos autônomos e não tripulados, IA na saúde, aplicações na área da segurança, dentre outros. Só com esse longo caminho percorrido, ainda distante do nosso panorama atual, teremos condições de criarmos uma esfera regulatória segura para a Inteligência Artificial.

 

Artigo publicado no Jota. Leia aqui.

Parâmetros sólidos precisam ser fundamentados antes que IA vire fonte de conflitos no direito pátrio

A implementação da Inteligência Artificial (IA) como nova alternativa para a solução de inúmeros problemas cotidianos é realidade no Brasil. Um estudo da Fundação Getúlio Vargas, citado em reportagem aqui no JOTA, demonstra que, somente no Judiciário brasileiro, existem cerca de 72 projetos que têm como base a IA nas mais diversas searas e instâncias.

A sua implementação traz consigo a necessidade urgente de discutir limitações e gerenciar seus riscos. Aspectos principiológicos (será que uma IA é capaz de ponderar princípios?), responsabilidades na esfera cível (quem responde pelos danos causados?), reflexos penais (ex: vieses discriminatórios da IA) e intercorrências administrativas e processuais (imaginou uma IA proferindo sentenças?) são apenas alguns dos contextos que, muito em breve, iremos nos deparar em discussões com base nesse tema primordial na revolução tecnológica em curso.

A ausência de parâmetros e bases regulatórias nos leva para um caminho de insegurança jurídica nas decisões balizadoras da IA. A partir daí, surge o questionamento: como anda a regulamentação da matéria no Brasil?

Existem poucos projetos de lei em trâmite em nosso legislativo federal que têm como foco principal essa pauta. Numa busca nos sistemas de consulta das atividades legislativas, verifica-se a existência de cinco projetos que apresentam a IA como temática principal, e diversos outros que citam a tecnologia em seus artigos.

Dos cinco supracitados, o mais presente na mídia é o PL 5051/2019, do senador Styvenson Valetim (PODEMOS – RN), que estabelece os princípios para o uso da IA no país. Em primeira análise, a proposição aparenta não trazer qualquer regulamentação efetiva. Talvez busque o ineditismo e a vanguarda na matéria. Em seus seis artigos, o projeto basicamente reitera princípios já encartados na Constituição que deverão ser respeitados quando do uso da IA, pouco inovando no assunto. Os trechos que possivelmente trazem algo novo dizem respeito à possibilidade de auditoria dos sistemas e a vinculação à supervisão humana, ainda numa discussão muito superficial diante da complexidade do assunto.

O Senado dispõe ainda de outros dois projetos em pauta. O 5.691/2019, também do senador Styvenson, que institui a Política Nacional de Inteligência Artificial, trazendo novamente uma regulamentação tímida; e o 872/2021, do senador Veneziano Rêgo (MDB – PB), que dispõe sobre o uso da Inteligência Artificial no Brasil. Numa análise de seus conteúdos, principalmente das “justificativas” (componente formalístico dos projetos de lei), estes deixam muito a desejar, não trazendo discussões, dados e propostas de regulamentação verdadeiramente técnicas.

A Câmara dos Deputados também não fica de fora. O Projeto de Lei 20/2021, do deputado Ângelo Bismarck (PDT – CE), tem o objetivo de estabelecer princípios, direitos e deveres para o uso de Inteligência Artificial no Brasil, apresentando um conteúdo mais completo que as propostas do Senado. Há outro projeto em trâmite na Câmara: o 240/2020, que cria a Lei da Inteligência Artificial, já apensado ao supracitado, mas com um conteúdo mais simplório sobre o tema. Há um detalhe neste último que merece atenção: é o de justificativa mais bem fundamentada, relatando um panorama mundial da regulamentação da IA e novas tecnologias.

Em âmbito procedimental, o pontapé inicial já foi dado nas duas casas legislativas. Entretanto, na construção do direito material da IA, há muito debate a ser realizado antes do encaminhamento de qualquer das propostas para apreciação. Nenhuma delas possui o grau de maturidade e especialidade técnica esperado para uma matéria tão importante.

Por outro lado, há uma entidade que merece destaque por tomar as rédeas da regulamentação da IA dentro da sua competência (não-unânime entre os estudiosos): o Conselho Nacional de Justiça. Por ser um tema cada vez mais hype no meio das Cortes, a IA está na mira da atuação da entidade. Duas normatizações merecem atenção: a Resolução 332/2020, que “dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário”, e a Portaria 271/2020, que “regulamenta o uso de Inteligência Artificial no âmbito do Poder Judiciário”. Ambas apresentam um trabalho mais minucioso do que vem sendo desenvolvido pelo legislativo federal.

Além da necessidade de amadurecimento, os aspectos da regulamentação possuem o agravante da urgência. A tecnologia é realidade no país e possui um nível de implementação exponencial por entidades das mais diversas esferas. Precisamos que o Brasil apresente e discuta projetos que, de um lado, não engessam o desenvolvimento de novos mercados baseados no uso de IA e outras tecnologias disruptivas, porém, de outro lado, não crie um ambiente altamente permissivo que impacte, de forma negativa, a vida dos brasileiros pelo uso indiscriminado.

Sundar Pichai, CEO do Google, publicou um artigo na Financial Times que é quase um manifesto pela regulamentação da IA. Em síntese, ele alega que apesar dos inquestionáveis benefícios da IA, precisamos ter os olhos voltados para o que pode dar errado, para que a tecnologia seja desenvolvida com ética, responsabilidade e segurança. Ele tem muita razão.

Os países na vanguarda da IA já trabalham a regulamentação num grau mais avançado de técnica, em que pese a matéria ainda ser a inicial: princípios e bases de aplicação da tecnologia. A União Europeia, ainda em 2019, publicou o guideline para uma IA de confiança, discorrendo sobre os seus três elementos essenciais: a legalidade, a ética e a solidez. O documento, produzido por um grupo de especialistas, ainda teve sequência com outros três documentos (recomendação de políticas e investimentos, lista de avaliação para IA confiável e considerações setoriais) que servem como base para a regulamentação própria da IA.

A China, país que lidera a implementação da tecnologia, publicou também em 2019 documento – desenvolvido pelo Ministério da Ciência e Tecnologia (MOST) – contendo princípios de governança para uma nova geração de IA, listando oito princípios que devem ser seguidos no desenvolvimento da tecnologia. No mesmo ano, a Câmara de Nova York apresentou o Algorithmic Accountability Act, uma das primeiras propostas normativas sobre o tema do continente.

Esse não é um movimento exclusivo dos países. Entidades transnacionais e as próprias empresas privadas vêm criando movimentos de regulamentação da IA. A Organização para a Cooperação do Desenvolvimento Econômico (OCDE) lançou em 2019 o documento de princípios, adotado por dezenas de países, dentre os quais o Brasil. As big techs – em especial a IBM, Microsoft e Google – estimuladas pela necessidade de estipulação de diretrizes próprias, também estão desenvolvendo seus próprios centros de pesquisa sobre a matéria, como o IBM Policy Lab e o OpenAI, que possui dentre os seus fundadores Elon Musk, defensor da regulamentação (“All orgs developing advanced AI should be regulated, including Tesla”, afirmou em um dos seus famosos twitts).

Esse aparato histórico mostra que o contexto da discussão começou em 2019 quase de forma simultânea na escala global, com base nas discussões mais primordiais de regulamentação de uma tecnologia tão revolucionária: aspectos éticos, princípios de aplicação e fundamentos gerais de uso. Não é uma realidade, portanto, legislações consolidadas que esteja num maior grau de avanço sobre a matéria. Ressalte-se que há exceções normativas de acordo com as peculiaridades dos países, como no caso da Alemanha e a regulamentação dos carros autônomos.

É preciso, portanto, consolidar tais aspectos básicos normativos para avançar sobre os reflexos práticos. E não fizemos sequer esse primeiro dever de casa. Só com ele conseguiremos regulamentar seus aspectos subsidiários da IA, mas que tem relevantes implicações jurídicas, tais como direitos de propriedade intelectual, impacto ambiental, limites da jurisdição das tecnologias.

Com tais bases delimitadas (ou até de forma simultânea), é possível que se apresente como essencial a regulamentação específica para cada uma de suas aplicações: indústria, veículos autônomos e não tripulados, IA na saúde, aplicações na área da segurança, dentre outros. Só com esse longo caminho percorrido, ainda distante do nosso panorama atual, teremos condições de criarmos uma esfera regulatória segura para a Inteligência Artificial.

 

Artigo publicado no Jota. Leia aqui.










© Copyright 2020-2021 - Daniel Law. Todos os direitos reservados.