Carta do Repositório: Setor Público
O Estado exerce três papéis distintos em sua relação com a inteligência artificial (IA). O primeiro deles é o de coordenador da tecnologia. Ele se expressa na criação de estratégias nacionais de IA e de políticas públicas ligadas a elas, seja na qualidade de indutor do desenvolvimento, desenvolvedor ou implementador dessas tecnologias. O segundo é o de regulador da IA, à medida que cabe ao Estado criar incentivos e constrangimentos legais preocupados em fazer com que o desenvolvimento e a utilização da tecnologia em questão respeitem e promovam a dignidade humana. Por fim, o Estado tem o papel de ser um usuário de aplicações de IA.
Cada um desses três papéis está ligado a agendas específicas de pesquisa. A primeira delas compreende elementos variados, como a competição entre países pela liderança no desenvolvimento da IA, a criação de coalizões nacionais entre diferentes atores sociais voltadas a esse fim, e a elaboração de políticas públicas as mais diversas, como as relativas ao financiamento da produção de aplicações de IA e o auxílio à população para lidar com as transformações no mercado de trabalho ocasionadas pela disseminação dessa tecnologia. Nessa primeira agenda de pesquisa, estão trabalhos como os de Agrawal et al. (2019), Desiere & Struyven (2021), e Chiarini & Silveira (2022).
O papel regulatório, por sua vez, dá margem tanto a comparações internacionais entre as diferentes abordagens regulatórias em discussão ao redor do mundo, quanto a análises sobre a atuação das grandes empresas de tecnologia na construção de normas nacionais referentes à IA. A agenda de pesquisa relativa a esse papel é endereçada por autores como Calo (2017) e Justo-Hanani (2022).
Já o papel de usuário de aplicações de IA pelo Estado suscita uma miríade de problemáticas, como a intenção do Estado – e, eventualmente, organizações da sociedade civil comissionadas para operar sobre questões de interesse público – de utilizar aplicações de IA para melhorar o ciclo de políticas públicas, os cuidados que ele toma (ou deixa de tomar) ao fazê-lo, e as consequências nefastas que estruturas débeis de governança da IA podem trazer aos cidadãos quando a tecnologia é utilizada pela máquina pública – como, por exemplo, o aumento da opacidade de decisões relativas à gestão pública e a ocorrência de práticas indevidas de vigilância por órgãos estatais. Na agenda de pesquisa relativa a esse papel, encontram-se autores como Eubanks (2018), Busuioc (2020), Grimmelikhuijsen (2022), Dunleavy & Margetts (2023), dentre outros.
Considerando que a esfera pública também é composta por entidades não estatais, tais quais organizações sociais, universidades públicas, institutos, fundações e demais entidades sem fins lucrativos, e que essas entidades atuam na franja do Estado desempenhando papéis e ações de controle social do Estado e outras ações de interesse público, entendemos que esses papéis de coordenador, regulador e usuário de sistemas de IA por vezes também são desempenhadas por essas entidades. Na agenda de pesquisa relativa a esse papel, encontram-se autores como Song (2023) e Nahrkhalaji et al (2018), dentre outros.
A frente “Estado e Setor Público” do grupo Understanding Artificial Intelligence (UAI) ocupa-se prioritariamente com as temáticas relativas ao primeiro e terceiro papéis mencionados anteriormente, prestando especial atenção às oportunidades e aos desafios que a inteligência artificial impõe ao desenvolvimento nacional dos países, à manutenção da democracia na esfera pública e à estrutura burocrática do Estado. Esse foco não a impede, contudo, de acompanhar a produção acadêmica sobre o Estado como regulador da IA, ainda que com uma ênfase menor.
O acompanhamento bibliográfico feito pelo grupo é mensal e baseia-se principalmente, ainda que não exclusivamente, em dois tipos de fontes de pesquisa: 1) bases de dados como Scopus e Web of Science; e 2) relatórios produzidos por organizações do terceiro setor, como AI Now e LAPIN (Laboratório de Políticas Públicas e Internet).
Indicações bibliográficas
AGRAWAL, Ajay., et al. (2019). Economic policy for artificial intelligence. Innovation Policy and the Economy, 19(1), 139-159.
BUCHANAN, Ben (2020). The AI triad and what it means for national security strategy. Center for Security and Emerging Technology. Disponível em: https://cset.georgetown.edu/
BUCHANAN, Ben & IMBRIE, Andrew (2022). The new fire: War, peace, and democracy in the age of AI. Boston: The MIT Press.
BUSUIOC, Madalina (2020). Accountable Artificial Intelligence: Holding Algorithms to Account. Public Administration Review, 81(5), 825–836. Retrieved from https://doi.org/10.1111/puar.13293.
CALO, Ryan. (2017). Artificial Intelligence Policy: A Primer and Roadmap. Disponível em: https://ssrn.com/abstract=3015350 or http://dx.doi.org/10.2139/ssrn.3015350
CHIARINI, Tulio & SILVEIRA, Sergio. (2022). Exame comparativo das estratégias nacionais de inteligência artificial de Argentina, Brasil, Chile, Colômbia e Coreia do Sul: consistência do diagnóstico dos problemas-chave identificados. Rio de Janeiro: Ipea.
CÓBE, Raphael; NONATO, Luiza; NOVARES, Sérgio; ZIEBARTH, José. (2020). Rumo a uma política de Estado para inteligência artificial. Revista USP, 124, 37–48.
DANIELS, Matthew & CHANG, Ben. (2021). National power after AI. Center for Security and Emerging Technology. Disponível em: https://cset.georgetown.edu/
DESIERE, Sam & STRUYVEN, Ludo (2021). Using artificial intelligence to classify job seekers: the accuracy-equity trade-off. Journal of Social Policy, 50(2): 367–385.
DUNLEAVY, Patrick & MARGETSS, Helen. (2023). Data science, artificial intelligence and the third wave of digital era governance. Public Policy and Administration, 09520767231198737.
EUBANKS, Virginia. (2018). Automating Inequality – How Hig-Tech Tools Profile, Police, And Punish the Poor. New York: St. Martin’s Press, 2018.
GRIMMELIKHUIJSEN, Stephan (2022). Explaining Why the Computer Says No: Algorithmic Transparency Affects the Perceived Trustworthiness of Automated Decision-Making. Public Administration Review. Online First. doi: 10.1111/puar.13483.
JUSTO-HANANI, Ronit (2022). The politics of Artificial Intelligence regulation and governance reform in the European Union. Policy Sci 55, 137–159. https://doi.org/10.1007/s11077–022–09452–8
KANAAN, Michael. (2021). T-Minus AI: Humanity’s countdown to artificial intelligence and the new pursuit of global power. Dallas: Benbella Books.
KISSINGER, Henry, SCHMIDT, Eric; HUTTENLOCHER, Daniel. (2021). The age of AI: And our human future. New York, NY: Little, Brown and Company.
MILLER, Christopher (2022). Chip War: The Fight for the World’s Most Critical Technology. Nova Iorque: Scribner.
NAHRKHALAJI, Saeedeh Shafiee, SHAFIEE, Masoud, & HVAN, Lars. (2018). Challenges of digital transformation: the case of the non-profit sector. In 2018 IEEE International Conference on Industrial Engineering and Engineering Management (IEEM) (pp. 1245-1249). IEEE.
PEIXOTO, Tiago, CANUTO, Otaviano & JORDAN, Luke. (2024). AI and the future of government: Unexpected effects and critical challenges. Policy Center for the South. https://www.policycenter.ma/
SONG, Ziheng & NG, Chun Ping (2023). From Data to Impact: How Artificial Intelligence is Driving Non-Profit Success. Ziheng Song.
SCHARRE, Paul (2023). Four battlegrounds: power in the age of artificial intelligence. Londres: W.W. Norton & Company.
SCROLLINI , Fabrizio, CERVANTES, María Esther & MARISCAL, Judith. (2021). Em busca de rumbo: el estado de las políticas de inteligencia artificial em América Latina. Disponível em: https://www.empatia.la/wp-
Tortoise Media. (2023). The Global AI Index. https://www.tortoisemedia.com/
WHITTLESTONE, Jess & CLARK, Jack. (2021). Why and how governments should monitor AI development. Centre for the Study of Existential Risk (CSER). https://www.cser.ac.uk/