A obra Data Feminism (2020), de autoria de Catherine D’Ignazio e Lauren F. Klein apresenta uma forma de repensar a ciência de dados a partir de princípios feministas e de forma interseccional, possuindo como enfoque as relações de poder.

   Para entender o contexto em que a obra é escrita, investigamos inicialmente algumas informações sobre as autoras: Catherine é diretora do Data + Feminism Lab e professora associada de ciência urbana e planejamento no Departamento de Estudos Urbanos e Planejamento do MIT, e em seus trabalhos, busca maneiras criativas de democratizar a ciência de dados, a IA e a tecnologia para a justiça social (D’Ignazio, s.d.); Lauren Klein é professora de Teoria e Métodos Quantitativos e de Inglês na Emory University, onde também dirige o Emory Digital Humanities Lab e a Atlanta Interdisciplinary AI Network, trabalha na interseção de ciência de dados, IA/ML e literatura e cultura americanas, com ênfase em questões de pesquisa de gênero e raça (Klein, s.d.).

   No livro, as autoras buscam compreender como as práticas tradicionais utilizadas na ciência de dados perpetuam desigualdades existentes, e a partir disso, refletem como é possível utilizar dessa própria ciência para alterar as dinâmicas e relações de poder. Para isso, desenvolvem 7 princípios feministas, que são inseridos um em cada capítulo do livro:

• Examinar o poder: o feminismo de dados começa através da análise de como o poder opera no mundo.

• Desafiar o poder: o feminismo de dados se compromete a desafiar estruturas de poder desiguais e a trabalhar pela justiça.

• Elevar a emoção e a corporalidade:  o feminismo de dados ensina a valorizar múltiplas formas de conhecimento, incluindo o conhecimento que emerge das diferentes vivências.

• Repensar binarismos e hierarquias:  o feminismo de dados requer que nós desafiemos binarismos de gênero, assim como outros sistemas de contagem e classificação que perpetuem opressão.

• Abraçar o pluralismo:  o feminismo de dados insiste que o conhecimento mais completo vem da síntese de múltiplas perspectivas, dando prioridade para formas de saber locais, indígenas e baseadas na experiência.

• Considerar o contexto: o feminismo de dados defende que os dados não são neutros nem objetivos. Eles são produtos de relações sociais desiguais e esse contexto é essencial para conduzir análises éticas e precisas.

• Mostrar o trabalho:  o trabalho da ciência de dados, como qualquer outro trabalho, é feito por muitas mãos. O feminismo de dados faz com que esse trabalho seja visível, para que seja reconhecido e valorizado (D’Ignazio & Klein, 2020, p. 17-18, tradução nossa).

   As autoras iniciam o texto explicando que utilizam o termo feminismo como forma de referenciar diversos projetos, pesquisas e distintas maneiras de conhecimento que desafiam o sexismo e outras formas de opressão, e aqueles que buscam criar futuros mais justos, equitativos e habitáveis. Para isso, elas não se utilizam de apenas uma linha de pensamento feminista, mas incluem diversas correntes inseridas no próprio termo, como Betty Friedan, bell hooks, Darden e Champine, Kimberlé Crenshaw, entre outras. Esclarecem, assim, que utilizam autoras que buscam explorar questões sociais, políticas, históricas e conceituais por trás da desigualdade entre os sexos que enfrentamos hoje em dia (D’Ignazio & Klein, 2020).

   As injustiças geralmente resultam de processos históricos e contemporâneos que envolvem relações de poder desiguais, principalmente entre homens, mulheres e pessoas não binárias, e aquelas entre mulheres brancas e mulheres negras, pesquisadores acadêmicos e comunidades indígenas, além da separação entre Norte e Sul Global. Precisamos entender que todo e qualquer movimento pela igualdade de gênero precisa reconhecer que o privilégio e a opressão de determinados grupos passam necessariamente pela interseccionalidade.

   Para explicar esse conceito, as autoras utilizam a definição de Kimberlé Crenshaw, que não apenas descreve os aspectos interseccionais de uma identidade particular, mas também descreve a intersecção do privilégio e da opressão em ação em uma sociedade. A opressão envolve um tratamento sistemático de certos grupos por outros grupos, e isso acontece quando o poder não é distribuído igualmente.  Isso ocorre quando um grupo controla as instituições de (do?) direito, educação e cultura e usa desse poder para excluir sistematicamente outros, resultando em vantagens injustas, mantendo o status quo. É nesse sentido que opressões de raça, gênero e classe social são interseccionais (D’Ignazio & Klein, 2020).

   Os sistemas de poder são reais, mas as autoras ressaltam que as forças da opressão são difíceis de detectar quando você se beneficia delas, o que elas chamam de privilege hazard. É nesse cenário que entram os dados, ou seja, um conjunto de sistemas de poder e privilégio. A partir disso as autoras desenvolvem a ideia de data feminism: uma forma de pensar sobre os dados, seus usos e limites, que é baseada na experiência direta, por um compromisso de ação e pelo pensamento feminista interseccional. O ponto de partida para feminismo de dados é algo que não é reconhecido na ciência de dados: o fato de que o poder não é distribuído igualmente no mundo, já que aqueles que exercem o poder são em sua maioria homens de elite, heterossexuais, brancos, saudáveis e cisgêneros do Norte Global (D’Ignazio & Klein, 2020).

   Dessa forma, o trabalho do feminismo de dados é uma maneira de compreender como as práticas padrão em ciência de dados servem para reforçar essas desigualdades existentes, e em segundo lugar, usar a ciência de dados para desafiar e mudar a distribuição de poder. As autoras partem do pressuposto de um comprometimento com o que chamam de co-liberation, reconhecendo que sistemas opressivos de poder prejudicam a todos nós, e que prejudicam a qualidade e a validade do nosso trabalho, impedindo a criação de um impacto social verdadeiro com a ciência de dados (D’Ignazio & Klein, 2020).

   Como mencionado anteriormente, cada capítulo de Data Feminism (2020) corresponde a um princípio que questiona fundamentos da ciência de dados hegemônica. O primeiro, diz respeito a examinar o poder, e apresenta como iniciar o processo: identificar como e por quem o poder é exercido nos sistemas de dados. As autoras argumentam que a ciência de dados não é neutra e que os dados são produtos de relações sociais desiguais. Elas destacam a importância de analisar como o poder opera no mundo e como ele influencia a coleta, análise e interpretação dos dados.

   O segundo capítulo, desafiar o poder, enfatiza a necessidade de desafiar as estruturas de poder desiguais e trabalhar com base na justiça. As autoras demonstram exemplos de como os dados podem ser usados para resistir ao poder, apresentando projetos comunitários que produzem contra dados para expor injustiças. Além disso, abordam a responsabilidade ética de usar a ciência de dados como instrumento de transformação política (D’Ignazio & Klein, 2020).

   No terceiro capítulo, é mencionado o princípio relativo a elevar a emoção e a corporalidade, em que as autoras argumentam que a ciência de dados deve valorizar as diversas formas de conhecimento, como aquelas que vêm das experiências vividas. Com isso desafiam a visão tradicional de que a objetividade e a racionalidade seriam os únicos caminhos para o conhecimento, destacando a importância da emoção e da corporalidade na produção e interpretação de dados (D’Ignazio & Klein, 2020).

   O quarto capítulo diz respeito a repensar os binarismos e as hierarquias, e com isso, há um apelo para repensar os sistemas que perpetuam a opressão. A base do argumento é que muitas vezes os dados são organizados em categorias binárias e hierárquicas que não refletem a complexidade da experiência humana. Com isso, defendem a criação de sistemas de dados que respeitem a diversidade e a multiplicidade de identidades (D’Ignazio & Klein, 2020).

   O quinto capítulo argumenta a favor do pluralismo, destacando a importância de valorizar as múltiplas formas de conhecimento e perspectivas na ciência de dados. Com isso, é necessária a inclusão de diversas vozes e experiências que enriquecem a análise de dados e contribui para uma compreensão mais completa e justa do mundo (D’Ignazio & Klein, 2020).

   O sexto capítulo aborda a ideia de considerar o contexto, ressaltando a importância de considerar o contexto social, político e histórico na coleta, análise e interpretação dos dados. Isso oportuniza uma análise de dados mais ética e responsável (D’Ignazio & Klein, 2020).

   Já o sétimo capítulo aborda como tornar o trabalho visível. As autoras destacam a importância de tornar visível o trabalho envolvido na ciência de dados e que esse trabalho é realizado por muitas mãos, motivo pelo qual é necessário tornar visíveis os processos e decisões envolvidos na produção de dados promovendo a transparência e a responsabilidade (D’Ignazio & Klein, 2020).

   A questão central do livro é compreender que os dados não são neutros e nem objetivos, já que eles são produtos de relações sociais desiguais. Assim, a obra surge tanto como uma crítica à neutralidade técnica dos dados quanto como um guia prático de como pesquisadores, profissionais e ativistas podem usar a ciência de dados como ferramenta de justiça social. É nesse sentido que podemos ver a sua relevância, na medida em que traz ao campo discussões que envolvem a esfera feminista e a análise interseccional sobre como os dados reais, quando utilizados em sistemas de tecnologias e IA, reproduzem as formas de opressão existentes na sociedade.

   Apesar da grande relevância para o campo, há dois pontos que merecem destaque ao pensar em uma análise crítica da obra. Primeiro, que as autoras articulam princípios teóricos feministas com propostas de intervenção na prática da ciência de dados, mas apesar de o livro apresentar os sete princípios organizados de forma clara, como uma delimitação para princípios éticos a serem seguidos, há uma abstração que limita a aplicação prática. O que aparenta uma falta de dimensão normativa que seja possível de ser aplicada como frameworks de auditoria, critérios de avaliação ética ou diretrizes para implementação em políticas públicas, por exemplo.

   O segundo ponto é que o referencial teórico da obra é centrado no Norte Global. As próprias autoras reconhecem sua posição de privilégio como pesquisadoras do Norte e mulheres brancas, mas apesar disso, não discutem epistemologias decoloniais que poderiam ter sido abordadas de forma a ampliar o debate principalmente para contextos da América Latina e o Sul global como um todo. Pensadoras como Lélia Gonzalez, Sueli Carneiro, Rita Segato, entre tantas outras que contribuem para reflexões sobre raça, colonialidade do saber e opressão estrutural a partir da perspectiva de mulheres racializadas em contextos pós-coloniais, poderiam ter sido inseridas a fim de evidenciar ainda mais os limites da ciência de dados hegemônica.

   De forma geral, o livro representa um avanço na área da ciência de dados e da reflexão ética envolvendo tecnologias. Incorporar princípios feministas no desenvolvimento de sistemas como a IA, é essencial para trazer reflexões reais sobre o impacto que o uso de dados possui quando eles refletem as desigualdades existentes. A ideia de interseccionalidade também foi uma escolha importante das autoras, na medida em que não podemos mais falar sobre desigualdades sem considerar critérios como raça, gênero, classe social, território, entre outros fatores que influenciam diretamente na condição de minorias e grupos que são historicamente oprimidos e/ou marginalizados. Se o uso de dados em suas mais diversas formas é uma realidade presente hoje, precisamos de pesquisas como essa para refletir sobre as melhores maneiras de utilizá-los, mitigando os riscos envolvidos nesse uso. A obra de D-Ignazio e Klein (2020) apresenta um pontapé para essa reflexão e a importância do feminismo como fundamento teórico para as pesquisas de hoje.

   Em um artigo recente intitulado Data Feminism for AI (2024), D’Ignazio e Klein atualizam os princípios apresentados no livro e os adaptam mais especificamente ao contexto da inteligência artificial. Os sete princípios são mantidos, e são introduzidos dois novos: o impacto ambiental e o consentimento. O primeiro enfatiza a necessidade de considerar os custos ambientais associados ao desenvolvimento e uso de sistemas de IA defendendo práticas mais sustentáveis; enquanto o segundo reforça a importância de respeitar a autonomia dos indivíduos cujos dados são utilizados, especialmente quando se trata de dados sensíveis, e de garantir formas de coleta ética e informada.

   Um importante ponto ressaltado pelas autoras nesse artigo é sobre como o avanço da IA está vinculado aos padrões históricos de extração capitalista e colonial, em que os custos ambientais causados pelo consumo de água e energia de grandes empresas de tecnologia recaem de forma desproporcional sobre o Sul Global, embora os principais benefícios dessas tecnologias sejam concentrados no Norte Global. Com isso, ressaltam o fato de que essa assimetria tem uma dimensão de gênero que afeta principalmente mulheres e comunidades historicamente marginalizadas. É visível um reconhecimento das contribuições feministas da América Latina que compreendem o corpo e o território como interconectados e denunciam a violência estrutural contra ambos (D’Ignazio & Klein, 2024).

   Com essas adições, as autoras reconhecem as mudanças significativas que ocorreram na sociedade desde a publicação da primeira versão do livro, principalmente no que diz respeito à crescente influência do sistema capitalista sobre o desenvolvimento da IA. Elas propõem, assim, um modelo de pesquisa comprometido em antecipar e mitigar os danos provocados por sistemas algorítmicos em construção.

Referências:

D’Ignazio, Catherine & Klein, Lauren F. (2020). Data feminism. MIT Press. https://data-feminism.mitpress.mit.edu/

D’Ignazio, Catherine. (s.d.). Catherine D’Ignazio. Acessado em 3 de junho de 2025, de https://kanarinka.com/

Klein, Lauren F. (s.d.). Lauren F. Klein – Bio. Acessado em 3 de junho de 2025, de https://lklein.com/bio/

D’Ignazio, Catherine & Klein, Lauren F. (2024). Data Feminism for AI. Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’24). Association for Computing Machinery. https://arxiv.org/abs/2405.01286.