Carta do Repositório: Sociedade e Cultura

Justificativa das indicações bibliográficas da frente “Sociedade e Cultura”

Esta curadoria de textos visa apresentar um conjunto de livros e artigos acadêmicos, publicados após 2010, que apresentam uma perspectiva sociológica da expansão do uso de técnicas de Inteligência Artificial (IA) na vida social contemporânea. A seleção tem uma marcação temporal clara: os anos 2010, momento em que houve uma expansão considerável do uso da internet e consequente coleta e sistematização de grandes quantidades de dados (Big Data). Com isso, houve uma mudança significativa nas arquiteturas de código de IA, sendo o Aprendizado de Máquina o exemplo mais evidente. As aplicações “inteligentes”, antes restritas a campos específicos, passaram a ser largamente utilizadas em plataformas e programas de amplo uso social. O grande volume de dados que passou a estar disponível após a década de 2010 permitiu que algoritmos de IA fossem alimentados com uma quantidade muito maior de informações, melhorando assim o desempenho e a precisão dos modelos. Essa mudança trouxe o tópico da Inteligência Artificial para a centralidade de muitos debates nas Ciências Sociais, especialmente na Sociologia. Não era mais apenas as maneiras de uso da tecnologia que mobilizava a atenção de pesquisadores da área, mas sobretudo como ela transformou a própria organização social, inaugurando assim novas formas mediadas de estabelecer relações econômicas, sociais e culturais.

Os textos que estão aqui reunidos trazem um pouco das diferentes facetas pelas quais as Ciências Sociais têm apreendido a Inteligência Artificial e as transformações desencadeadas na sociedade contemporânea. Embora a seleção esteja organizada por ordem alfabética, acreditamos que a melhor aproximação a esses textos seja iniciar lendo aqueles que versam sobre o que é a inteligência artificial, quais são suas técnicas e quem são os agentes por detrás delas. Dentro dessa perspectiva, encontramos quatro textos. O artigo de Zhang Liu (2021), “Sociological perspectives on artificial intelligence: a typological reading” é uma rápida e eficiente porta de entrada para compreendermos a polissemia do termo “inteligência artificial” adotado nos artigos científicos. Liu rastreia artigos sociológicos no Scopus sobre inteligência artificial e identifica que há três perspectivas analíticas: “IA científica”, “IA técnica” e a “IA cultural”. A pesquisa informada pela perspectiva da “IA científica” analisa a “IA” como uma ciência ou campo de pesquisa científica. A pesquisa sustentada pela perspectiva da “IA técnica” estuda a “IA” como uma metatecnologia e analisa suas várias aplicações e subtecnologias. A pesquisa informada pela perspectiva da “IA cultural” vê o desenvolvimento da IA como um fenômeno social e examina suas interações com as condições sociais, culturais, econômicas e políticas mais amplas nas quais ela se desenvolve e pelas quais é moldada.

A grande parte dos textos que aqui selecionamos reflete essa terceira perspectiva. Entretanto, chegar a esses textos sem uma compreensão de como se produz conhecimento de IA e como ele se desdobra em técnicas aplicáveis em vários campos pode nos levar a um entendimento insuficiente das leituras socio-econômica-culturais do impacto da Inteligência Artificial no mundo contemporâneo. Por isso,  dois textos podem ajudar nessa empreitada. O primeiro deles é o capítulo “The Relevance of Algorithms”, escrito por Tarleton Gillespie ainda em 2014, para o livro “Media Technologies”. Trata-se de um explanação introdutória, mas bastante elucidativa sobre o papel dos algoritmos nas arquiteturas de código de Inteligência Artificial implementados em sistemas de vasto uso social. Gillespie certamente te preparará para mergulhar no “Nooscope Manifesto: Artificial Intelligence as a Knowledge Extractivism Instrument”, de autoria Matteo Pasquinelli e Vladan Joler. Falamos aqui de uma leitura de caráter um pouco mais técnico, mas extremamente necessária para te habilitar a qualquer leitura sociológica sobre Inteligência Artificial.

O texto “Architects of Intelligence: The Truth About AI From the People Building It”, de Martin Ford, fará uma ponte entre essas leituras introdutórias para a maior amplitude que outros textos oferecem. Nele, o autor entrevista, em profundidade, grandes nomes envolvidos no mundo da Inteligência Artificial. Apoiando-se em relatos de cientistas e executivos do mundo corporativo, o livro trata das principais dinâmicas e temáticas envolvidas nesse grande campo a partir da narrativas dos próprios agentes nele envolvidos. Como é possível ver pela seleção, ainda são raros os trabalhos sobre Inteligência Artificial que adotam abordagens que lidam com dados qualitativos microssociológicos, como entrevistas e etnografias [1]. Mesmo assim, para os pesquisadores que estejam nessa empreitada, achamos válido elencar o texto  “The Ethnographer and the Algorithm: Beyond the Black Box” (2020), de A.Christin, que examina a relação entre pesquisa etnográfica e o estudo de algoritmos.

Por sua vez, Taina Bucher e Kate Crawford são as autoras, respectivamente,  de “If… then: Algorithmic Power and Politics” (2018) e “Atlas of AI: Power, Politics and the Planetary Costs of Artificial Intelligence” (2021), que buscam oferecer uma análise compreensiva das consequências do uso amplo de IA na contemporaneidade. Ambas as obras dão um panorama amplo (mas não superficial) das principais questões, sobretudo políticas, para as quais as ciências sociais devem olhar nessa nova era. Seguindo essa mesma linha, achamos válido incluir o livro “Artificial Intelligence and Its Discontents: Critiques From the Social Sciences and Humanities” (2022), organizada por Ariane Hanemaayer. Trata-se de uma coletânea de artigos que apresentam uma leitura crítica sobre variados temas ligados à Inteligência Artificial, sobretudo aqueles que incorrem no debate de gênero.

Precisamos ainda destacar trabalhos sociológicos recentes que se dedicam a desvendar os mecanismos envolvidos em algoritmos implementados em IAs usadas tanto por instituições, quanto pelo público mais amplo. Dois trabalhos desse tipo são o livro “The Metric Power” (2016), de David Beer, e o artigo “The Society of Algorithms” (2021), de Jenna Burrell e Marion Fourcade. O primeiro examina a dependência das métricas por detrás dos algoritmos que auxiliam na avaliação de desempenho, tomada de decisões e prática de governo em diversos setores, como educação, trabalho, saúde e administração pública. Para Beer, estaríamos assim vendo nascer uma nova forma de poder: o “metric power”. Sob o mesmo raciocínio, Burrell e Fourcade examinam como os algoritmos e o “tipo de poder” dele decorrente estão integrados em vários aspectos da vida social, incluindo finanças, mercados de trabalho, educação e sistema jurídico.

Outro conjunto de textos de nossa seleção trata de um dos temas mais evidentes e importantes para as Ciências Sociais no que diz respeito ao uso da IA: a propagação da desigualdade em diferentes níveis. “Race After Technology: Abolitionist Tools for the New Jim Code” (2019), de R. Benjamin, e “Algorithms of Oppression: How Search Engines Reinforce Racism” (2018), de S. Noble, discutem como arquiteturas de código de Inteligência Artificial acabam por perpetuar a desigualdade racial. Tanto Noble quanto Benjamin exploram como vieses presentes em bancos de dados e reforçados por algoritmos acabam por perpetuar práticas discriminatórias, sendo que Benjamim também reflete sobre algumas estratégias para a promoção de equidade diante desse cenário. V. Eubanks discute a mesma celeuma em “Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor” (2018), abordando, mais amplamente, como a tecnologia (mais especificamente os algoritmos) perpetua a desigualdade socioeconômica de comunidades marginalizadas. Ainda na chave dos vieses algorítmicos, Frank Pasquale discute se afasta de questões socio-culturais para discutir questões ligadas à economia e governança.

O debate sobre as consequências econômicas do uso da IA pode ser considerado como outra frente temática de obras sobre a tecnologia. Para a Sociologia, inevitavelmente, o mundo do trabalho está no centro dessas discussões. Selecionamos três textos nesse tom: “The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies” (2014), de Erick Brynjolfsson e Andrew McAfee; “Automation and Autonomy: Labour, Capital and Machines in the Artificial Intelligence Industry” (2021), de James Steinhoff; e “Anatomy of an AI System: The Amazon Echo as an Anatomical Map of Human Labor, Data, and Planetary Resources” (2018) de Kate Crawford e Joler Vladan. Os dois primeiros tem preocupações muito similares (o impacto da automação), mas enfoques diferentes, além de terem sido escritos com sete anos de diferença, o que nos permite notar como as discussões sobre o tema se transformaram significativamente nesse período de tempo. Já a obra de Crawford e Vladan sintetiza de maneira muito eficiente várias das discussões já elencadas aqui em torno de um caso específico: a Amazon.

Por último, indicamos dois textos que exploram o “novo capitalismo” que se alicerça na emergência e adoção de tecnologias “inteligentes”: “Inhuman Power: Artificial Intelligence and the Future of Capitalism” (2019), de  Dyer-Witheford, N., Kjøsen, A. M. e Steinhoff, J.,  e o aclamado “The Age of Surveillance Capitalism” (2018), de Shoshanna Zuboff.  Ambos trazem em si traços marxistas em suas análises que questionam o capitalismo na era da IA a partir de argumentos distintos. Enquanto “Inhuman Power”  discute as dinâmicas de um capitalismo com cada vez menos trabalho humano,”The Age of Surveillance Capitalism” examina como o poder econômico concentrado em poucas grandes empresas de tecnologia coletam dados pessoais dos usuários (“a exploração do trabalho imaterial”), ampliando as assimetrias de poder entre as corporações e os indivíduos.

Indicações bibliográficas

Bucher, T. (2018). If… then: Algorithmic Power and Politics. Oxford University Press.

Burrell, J., & Fourcade, M. (2018). The Society of Algorithms. Annual Review of Sociology, 47, 213-237.

Brynjolfsson, E., & McAfee, A. (2016). The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies. W. W. Norton & Company.

Beer, D. (2016). The Metric Power. Palgrave McMillan.

Benjamin, R. (2019). Race After Technology: Abolitionist Tools for the New Jim Code. Polity Press.

Crawford, K., & Joler, V. (2018). Anatomy of an AI System: The Amazon Echo as an Anatomical Map of Human Labor, Data, and Planetary Resources. AI Now Institute and Share Lab.

Christin, A. (2020). The Ethnographer and the Algorithm: Beyond the Black Box. Theory and Society, 49, 897–918.

Crawford, K. (2021). Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press.

Dyer-Witheford, N., Kjøsen, A., & Steinhoff, J. (2019). Inhuman Power: Artificial Intelligence and the Future of Capitalism. Pluto Press.

Gillespie, T. (2014). The Relevance of Algorithms. In.: Media Technologies. MIT Press.

Ford, M. (2018). Architects of Intelligence: The Truth About AI From the People Building It. Packt Publishing.

Eubanks, V. (2018). Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. St. Martin’s Press.

Hanemaayer, A. (2022). Artificial Intelligence and Its Discontents: Critiques From the Social Sciences and Humanities. Palgrave Macmillan.

Liu, Z. (2021). Sociological perspectives on artificial intelligence: A typological reading. Sociology Compass.

Steinhoff, J. (2016). Automation and Autonomy: Labour, Capital, and Machines in the Artificial Intelligence Industry. Palgrave Macmillan.

Pasquale, F. (2016). The Black Box Society: The Secret Algorithms That Control Money and Information. Harvard University Press.

Pasquinelli, M., & Joler, V. (2022). Nooscope Manifesto: Artificial Intelligence as a Knowledge Extractivism Instrument. NOOSCOPE.

Noble, S. (2018). Algorithms of Oppression: How Search Engines Reinforce Racism. New York University Press.

Zuboff, S. (2018). The Moat Around the Castle. In.: The Age of Surveillance Capitalism. PublicAffairs.