É inegável que o crescente desenvolvimento de novas tecnologias que vivenciamos traz inúmeras mudanças em nosso dia a dia, e talvez seu mais célebre expoente seja a Inteligência Artificial. Um exemplo claro de como estes algoritmos estão presentes em nosso cotidiano são os chatbots, que fornecem soluções de forma prática e rápida para situações menos complexas. Em suma, chatbots são programas capazes de estabelecer um diálogo por meio da utilização de linguagem humana, mais comumente a escrita. Os modelos mais modernos utilizam algoritmos de Machine Learning e PLN (processamento de linguagem natural), que possibilitam uma experiência muito mais acurada e satisfatória ao usuário deste tipo de programa.
O Machine Learning, por sua vez, é um subconjunto da IA que permite que a máquina aprenda através de uma combinação de treinamento prévio, utilizando uma série de dados cuidadosamente selecionados, e o resultado de interações futuras. Em chatbots, estas interações consistem no diálogo entre a máquina e os usuários que com ela se comunicam. O grande desafio é que a Internet é um ambiente flagrantemente hostil, onde seus usuários se sentem à vontade para proferir os mais variados (e deploráveis) tipos de discurso. Naturalmente, o processo de aprendizado de um chatbot pode ser comprometido quando submetido a este tipo de dado, tornando o modelo final um reprodutor de ideias conspiratórias, odiosas e preconceituosas. Um exemplo é o caso da IA “Tay”, que, em menos de 24h, foi convertida de uma interface amigável a um personagem racista, homofóbico, transfóbico e antissemita.
Ainda que diversos avanços na tecnologia tenham sido realizados desde então, o aprimoramento constante em busca de novas soluções mostra-se sempre necessário. Nesse sentido, um excelente mecanismo para medir o desenvolvimento tecnológico de um determinado campo são os bancos de dados de patentes, que permitem a realização de um mapeamento das mais novas soluções para problemas técnicos enfrentados. E é por meio deste tipo de inteligência tecnológica que é possível verificar, de forma concreta, tendências de desenvolvimento de mecanismos de proteção aplicados a algoritmos de chatbots que visam solucionar o problema técnico em comento.
É assim, por exemplo, com a patente US10742605B2, depositada em 2018, que apresenta um processo que detecta informações dadas por usuários e avalia características dessas informações com base em um conjunto de políticas e características aprendidas, permitindo avaliar o conteúdo destas interações e compará-lo a um limite pré-estabelecido. Assim, a IA consegue filtrar, por meio de um firewall, as informações fornecidas pelo usuário, impedindo que um comportamento inadequado seja desenvolvido pelo robô. Já a patente US10574597B2, depositada em 2017, apresenta uma interface de usuário para monitorar e depurar a IA de um chatbot. Essa interface de usuário é controlada por humanos e é útil para filtrar e depurar grandes quantidades de dados, como no caso “Tay”, que interagia com milhares de usuários ao mesmo tempo via Twitter. Com uma interface de usuário mais eficiente, os humanos responsáveis por monitorar o chatbot são capazes de identificar com maior acurácia comportamentos inadequados da IA e tomar as medidas necessárias.
Nota-se, portanto, um esforço de desenvolvedores de chatbots para que problemas como os apresentados pela IA “Tay” não mais se repitam, uma vez que evitar esse tipo de contratempo pode ser o diferencial entre a utilização ou não de uma aplicação chatbot. Dados patentários indicam que chatbots com comportamentos inadequados serão, cada vez mais, parte do passado. Nesse aspecto, as patentes se mostram instrumentos poderosos de fomento à tecnologia, pois permitem não somente uma clara visualização das soluções tecnológicas mais atuais, que servirão como base técnica para um desenvolvimento constante, como também garantem a proteção destes desenvolvimentos.
Artigo publicado no portal TI Inside.