Carta do Repositório: Regulação

Justificativa das indicações bibliográficas da frente “Regulação”

Um dos objetivos da frente regulação do UAI é contribuir para um debate qualificado sobre regulação econômica e inteligência artificial sob seus variados ângulos de modo a nutrir um pensamento crítico sobre o Direito e a tecnologia.

Pensando “de fora para o Direito”, almejamos compreender pressões da tecnologia que demandam a readequação de ferramentas jurídicas; pensar no papel do Direito na promoção da inteligência artificial e na alocação de poderes políticos e econômicos entre os diferentes atores interessados na tecnologia (Estado, empresas e indivíduos). Pensando do “Direito para fora”, este grupo se preocupa em compreender estratégias de regulação e como a tecnologia poderá impactar a substância da normatividade e garantia de valores constitucionais centrais ao Estado de Direito.

Como forma de suportar tais ambições e gerar impacto científico relevante, ponderamos que um ponto de partida sine qua non é apresentar um repositório curado de bibliografia que possa contribuir para que interessados se debrucem sobre os temas de interesse do UAI sem se perder, em meio à árida vastidão de publicações diárias, ora maior ou menor qualidade, sobre o tema.

No plano mais geral sobre a tecnologia e seus pontos de contato com campos de interesse das ciências jurídicas, Lehr e Ohm fornecem um importante panorama técnico-jurídico sobre distinções associadas a algoritmos mais complexos que compõe sistemas de inteligência artificial e algoritmos. Os autores detalham todos os diferentes passos de um algoritmo de aprendizado de máquina, desde a fase de concepção e delimitação do problema, até o momento de implementação do sistema no mundo real, sempre com vistas ao impacto jurídico e social de cada uma das fases. A partir desse delineamento, também analisam criticamente alguns dos artigos mais importantes sobre direito e aprendizado de máquina publicados até então.

A obra organizada por Kerrigan está igualmente alinhada a esse propósito de equalização de conhecimento técnico e tecnológico. A obra igualmente explora diferentes temas jurídicos no universo da IA como governança corporativa, contratos comerciais, direito concorrencial, proteção de dados, dentre outros.

Outros textos selecionados apresentam um valioso pano de fundo sobre como compreender dinâmicas comumente atribuídas ao capitalismo informacional e o papel de estruturas jurídicas nesse contexto. Nesse sentido, é interessante a compreensão do papel constitutivo do direito na economia, concepção que faz parte de literatura jurídica especializada ocupada de compreender o direito em contexto e em meio aos maiores desafios de nossa sociedade (desigualdade, discriminação, pobreza etc.), notadamente a escola do Critical Legal Studies e Law and Political Economy.

Seguindo tais ideias, Cohen desdobra a noção de capitalismo da informação, no qual o direito está emergindo não por meio de mudanças propositais e unívocas, mas sim por meio de formas descoordenadas, às vezes informais, e de interesse próprio. Esta é também uma manifestação do chamado capitalismo regulatório, que, segundo Levi-Faur, “repousa mais em formas descentralizadas e privadas de regulação do que em formas processuais e de controle de controle“. Refletindo sobre a “meditação” de Cohen sobre o capitalismo informacional, Kapczynski discute de que forma um paradigma histórico de eficiência e inovação de mercado levou à estruturação de instituições jurídicas (principalmente lei de sigilo comercial e propriedade intelectual; regras sobre imunidade na internet e liberdade de expressão; e leis sobre comércio e contratos) de forma a permitir a acumulação e o exercício do poder público e privado por determinados atores. A sugestão de apoio no texto é que nosso sistema jurídico é equivocado (causa e consequência) do estado atual de novas formas de vigilância, poder algorítmico, concentração de mercado e aumento da desigualdade. Nesse sentido, PISTOR vai além ao afirmar que o controle do acesso a conjuntos de dados estruturados e abrangentes por poucos na economia digital aumenta a assimetria de mercado em um nível que pode alterar seus elementos constitutivos.

Para muitos adoradores e “visionários” da inteligência artificial, especula-se sobre a possibilidade de máquinas assumirem capacidade cognitiva muito superior aos humanos, até o ponto hipoteticamente denominado por singularidade. Tal cenário – hoje ainda meramente hipotético – permite extrapolar outras teorizações sobre o direito e seus limites. Em excelente obra organizada por Deakin e Markou “Is Law Computable?: Critical Perspectives on Law and Artificial Intelligence?”, os acadêmicos organizam uma série de textos que debatem se o direito deveria permanecer uma ciência autônoma ou ser relegada a mais um campo da ciência da computação, na qual normas podem ser automatizadas, reduzindo discricionariedade e suposta insegurança jurídica. Tal pergunta levanta questionamentos sobre a adequação da informatização de domínios sociais permeados por subjetivismo, relativismo e atividade interpretativa contextual, como o Direito.

Hildebrand, por exemplo, discute a ideia de efeito jurídico decorrente da regulação da IA. Segundo ela, a lei tem uma dimensão externa e interna. Enquanto a dimensão interna se desdobra como estabelecimento de padrões, monitoramento e modelagem do comportamento humano, a dimensão externa fornece o efeito normativo (efeito jurídico) ao direito em nossa sociedade por ser posto em prática por meio de um processo legitimado que considera os indivíduos como autores de suas ações e atribui resultados para seus erros. Nesse sentido, uma regulação pela tecnologia, para se tornar normativa, deve não apenas ser compatível com as regras positivas, mas também integrar os princípios fundamentais do Estado de Direito. Ela acrescenta ainda que, nas democracias constitucionais, o governo soberano é considerado legítimo por meio da participação democrática (transparência em relação ao processo decisório) e do Estado de Direito (possibilidade de contestar a regra em um procedimento contraditório capaz de abrir a caixa preta de sua interpretação).

Lessig, em seminal texto, discute questões da mesma ordem, contudo com uma preocupação mais ampla: quais são as amarras estruturais e substantivas que deveriam guiar a governança das regras do mundo cibernético? Partindo de preocupações com a virtualização de interações sociais e econômicas por meio do estabelecimento de redes computacionais, o autor já indicava, desde a década de 1990, a importância de se estabelecer claramente valores e princípios que deveriam nortear a arquitetura do ambiente cibernético, em particular, da Internet. Suas considerações são ainda extremamente validadas para o momento que enfrentamos com o desenvolvimento da IA. Há discussões similares relativas à necessidade de expansão da concepção de direitos individuais e garantias constitucionais de Estado de Direito no ambiente virtual que são abordadas por Teubner em discussões relativas aos limites da legislação de propriedade intelectual no ambiente online diante de questões sociais que merecem ser endereçadas por meio de uma proteção coletiva e institucionalizada de direitos constitucionais.

Chamando atenção para riscos quanto ao uso de sistemas de inteligência artificial, Yeung estabelece algumas reflexões fundamentais sobre a concepção de regulação algorítmica, a qual é definida pela autora como “um sistema que regula um domínio de atividade por meio da geração computacional contínua de conhecimento a partir de dados emitidos diretamente de inúmeros componentes dinâmicos dentro e pertinentes ao ambiente regulado que são coletados e alimentados no sistema (de preferência em tempo real de forma contínua) a fim de identificar e, se necessário, executar automaticamente, refinamentos nas operações do sistema com o objetivo de atingir um objetivo pré-especificado“. Discussões similares são exploradas por Ulbricht e Yeung, assim como por Suzor.

Scherer e Acemoglu, por sua vez, apresentam considerações sobre os riscos envolvidos em sistemas de IA, com especial enfoque para as diferentes dimensões de atração de interesse jurídico, em particular no que tange a riscos individuais, mercadológicos, sociais e políticos. Para endereçar tais riscos, Doneda e Almeida, e Saban-Ireni e Sherman dissertam sobre modos de governança algorítmica, dando particular enfoque para o papel do setor privado (atuando por meio de diretrizes corporativas sérias e padrões industriais comuns a determinado setor) e do setor público na supervisão do nível de transparência e de qualidade dos serviços prestados por tal sistema. Extrapolando tais inferências para os direitos do devido processo legal, equidade e proteção de dados pessoais, Mattiuzzo e Machado, focando em discussões da seara concorrencial, problematizam a aplicação de ferramentas computacionais para condição e investigações e julgamentos que afetam direitos fundamentais de sujeitos interessados.

Indicações bibliográficas da frente “Regulação”

Aizenberg, E., & Van Den Hoven, J. (2020). Designing for human rights in AI. Big Data & Society.

Celeste, E. (2019). Digital constitutionalism: A new systematic theorisation. International Review of Law, Computers & Technology.

 Chamberlain, J. (2022). The Risk-Based Approach of the European Union’s Proposed Artificial Intelligence Regulation: Some Comments from a Tort Law Perspective. European Journal of Risk Regulation.

Cohen, J. E. (Eds.). (2019). Between truth and power: The legal constructions of informational capitalism. Oxford University Press.

Deakin, S., & Markou, C. (Eds.). (2020). Is Law Computable?: Critical Perspectives on Law and Artificial Intelligence. Hart Publishing.

Doneda, D., & Almeida, V. A. F. (2016). What Is Algorithm Governance? IEEE Internet Computing.

Drummond, M., Carneiro, J. V., Arches, J. V., et al. (2022). Panorama regulatório de Inteligência Artificial no Brasil.ITSRio.

Hildebrandt, M. (2018). Algorithmic regulation and the rule of law. Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences.

Hoffmann-Riem, W. (2022). Teoria Geral do Direito Digital. Forense.

Hydén, H. (2020). AI, Norms, Big Data, and the Law. Asian Journal of Law and Society.

Kapczynski, A. (2020). The Law of Informational Capitalism. Yale Law Journal.

Kerrigan, C. (Ed.). (2022). Artificial Intelligence: Law and Regulation. Edward Elgar.

Lehr, D., & Ohm, P. (2017). Playing with the data: What legal scholars should learn about machine learning. UCDL Rev.

Lessig, L. (1999). Code and other laws of cyberspace. Basic Books.

Li, J., Zhou, Y., Yao, J., et al. (2021). An empirical investigation of trust in AI in a Chinese petrochemical enterprise based on institutional theory. Scientific Reports.

Mattiuzzo, M., & Machado, H. F. (2022). Algorithmic Governance in Computational Antitrust—a Brief Outline of Alternatives for Policymakers. Stanford Journal of Computational Antitrust.

Namaviciené, G. S. (2020). Competition and Regulation in the Data Economy: Does Artificial Intelligence Demand a New Balance? Edward Elgar Publishing.

Pistor, K. (2020). Rule by Data: The End of Markets? Law and Contemporary Problems.

Price, H., & Vold, K. (2018). Living with AI. Research Horizons.

Saban-Ireni, L., & Sherman, M. (2021). Ethical Governance of Artificial Intelligence in the Public Sector. Routledge.

Scherer, M. U. (2015). Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies. Harvard Journal of Law & Technology.

Suzor, N. (2010). The Role of the Rule of Law in Virtual Communities. Berkeley Technology Law Journal.

Teubner, G. (2017). Horizontal Effects of Constitutional Rights in the Internet: a legal case on the digital constitution. Italian Law Journal.

Truby, J., Brown, R. D., & Ibrahim, I. A., et al. (2022). A Sandbox Approach to Regulating High-Risk Artificial Intelligence Applications. European Journal of Risk Regulation.

Tzimas, T. (2021). Legal and Ethical Challenges of Artificial Intelligence from an International Law Perspective.Springer.

Ulbricht, L., & Yeung, K. (2022). Algorithmic regulation: A maturing concept for investigating regulation of and through algorithms. Regulation & Governance.

White, J. M., & Lidskog, R. (2022). Ignorance and the regulation of artificial intelligence. Journal of Risk Research.

Whitman, J. (2004). Two Western Cultures of Privacy: dignity versus liberty. Yale Law Journal.

Wright, D., & Raab, C. (2012). Privacy Impact Assessment. Springer Netherlands.