Aplicações de inteligência artificial impulsionam negócios em praticamente todos os setores da economia. Os últimos anos reforçaram a importância do data-driven e revelaram o potencial da inteligência artificial nos resultados corporativos. Uma forte tendência para este ano é que o uso da IA entre no radar das iniciativas de Governança, especialmente para evitar aspectos discriminatórios e reforçar as políticas de diversidade e inclusão. Isto é, em 2022, a IA encontra o Environmental, Social and Governance (ESG).
Você pode pensar em qualquer aplicação de IA do seu dia a dia: análises de inteligência com predição; atendimento automatizado aos clientes; definição de comportamento financeiro para crédito; marketing estratégico segmentado; seleção de novos talentos; programas de fidelidade; dentre tantos outros exemplos. Qualquer uma delas demanda uma grande quantidade de dados que podem conter vieses enquanto espaço amostral, redundâncias ou mesmo dados desatualizados ou incorretos. Além disso, vieses também podem decorrer de opções no curso do desenvolvimento de IA ou em sua aplicação em projetos específicos. Agora imagine o impacto negativo se esses vieses forem discriminatórios e resultarem em violação a direitos de negros, mulheres ou LGBTQIA+, por exemplo. Não é possível falar em ESG em 2022 sem considerar as aplicações de IA que utilizamos.
Desde 2016 vem crescendo iniciativas corporativas e governamentais que buscam estruturar princípios para o desenvolvimento e o uso ético de IA. O Brasil entrou nesse mapa em julho do ano passado, com o lançamento de sua Estratégia Brasileira de Inteligência Artificial (EBIA) e tem discutido o tema no Projeto de Lei nº 21/2020 (Marco Legal do Desenvolvimento e Uso da Inteligência Artificial) já aprovado na Câmara dos Deputados em 29/09/2021 e remetido ao Senado Federal. Enquanto o regulatório específico ganha seus contornos, a Lei Geral de Proteção de Dados Pessoais (LGPD) já traz a obrigação de fornecer informações sobre critérios e procedimentos utilizados para tomada de decisões automatizadas, de forma a garantir que dados pessoais não sejam utilizados de forma discriminatória, ilícita ou abusiva. Essa obrigação tem lastro na legislação da União Europeia, mas traz uma inovação da qual ainda não se fala tanto: a possibilidade de realização de auditoria pela recém-criada Autoridade Nacional de Proteção de Dados (ANPD) nos algoritmos para verificação de vieses discriminatórios nesses tratamentos automatizados.
A LGPD pode ser a porta de entrada para que os brasileiros passem a exigir maior transparência sobre os algoritmos e seu uso, como forma de combate à discriminação. O desenvolvimento de IA explicável (na sigla inglesa X-AI, explainable artificial intelligence) que já foi considerado um obstáculo, em especial nos tipos mais sofisticados de IA, hoje desponta como uma tendência das empresas de tecnologia. Na ponta, as empresas que apesar de não desenvolverem, consomem IA, começam a desenhar estratégias de governança para lidar com os riscos dessa tecnologia. A tendência que desponta nelas é valer-se da estrutura de Governança já existente para endereçar esses riscos. Somam-se a ela os profissionais de Segurança da Informação e de Proteção de Dados Pessoais (que ganharam ainda mais destaque com a crescente do digital e dos incidentes de segurança nos últimos anos de isolamento).
É o ESG em prol do uso ético da IA, que tende a ser vista cada vez mais como uma atividade que implica riscos, notadamente de discriminação, e que estes, como quaisquer outros riscos relevantes, devem ser mapeados e avaliados. Para tanto, surgem metodologias como o Artificial Intelligence Impact Assessments (AIIA) ou a Avaliação de Impacto de Inteligência Artificial. A maior consciência sobre o uso da IA pode, inclusive, auxiliar no reforço das iniciativas de diversidade e inclusão. 2022 é o ano que conjuga todos esses temas na pauta corporativa. Afinal, se os negócios são orientados por dados, devemos nos certificar que eles estejam nos levando para o caminho certo.
Artigo publicado no portal Bonijuris.