Resenha do livro “Ética na IA” (2023), de Mark Coeckelbergh
Esta resenha foi originalmente publicada em francês (Cortese, João. F. N. B, “Compte rendu de Mark Coeckelbergh, AI Ethics”, Revue des questions scientifiques, 2020) e traduzida para a língua portuguesa por Mateus Henrique Amorim
As referências do texto foram atualizadas de acordo com a recente edição brasileira lançada em parceria pela Ubu Editora e Editora PUC-Rio, em 2023. A presente resenha não avalia a tradução da obra, mas apenas a sua redação original.
COECKELBERGH, Mark (2023). Ética na Inteligência Artificial. Título original: AI Ethics. trad. por Clarisse de Souza et al. São Paulo / Rio de Janeiro: Ubu Editora / Editora PUC- Rio.
Este livro compõe uma introdução excelente à ética na Inteligência Artificial (IA), boa tanto para aqueles que vêm das ciências humanas como para aqueles que se preocupam com os avanços da tecnologia.
A obra cobre casos limites, tais como a possibilidade de uma superinteligência (máquinas que se tornariam mais inteligentes que os seres humanos) e o estatuto moral das máquinas: a agência moral (deve-se atribuir um caráter moral às ações de uma IA?) e a responsabilidade moral [moral patiency] (como as máquinas devem ser tratadas?). Mas o autor se propõe sobretudo mostrar como a IA já se faz presente em inúmeros campos da sociedade: os sistemas de recomendação das ferramentas de busca, as plataformas de mídias sociais, e mesmo sua presença nos carros e nas armas autônomas. Um dos méritos do livro é distinguir bem entre os problemas próprios à IA e aqueles que são comuns às outras tecnologias de automação. Ao mesmo tempo, ele indica que, mesmo nos casos de desafios comuns, a IA pode agravar os problemas já existentes.
A obra destaca judiciosamente o fato de que as questões sobre a IA fazem com que ao final, tal qual um espelho, nós nos coloquemos questões sobre a própria humanidade: diz-se que a máquina simula uma inteligência, porém o que é precisamente a inteligência humana? Colocam-se questões análogas em relação a conceitos tais como a responsabilidade moral.
O livro contém quatro capítulos dedicados aos fundamentos filosóficos; dois capítulos de apresentação da tecnologia (a IA em geral e o aprendizado de máquina em particular); três capítulos consagrados às questões éticas que já são postas à IA nos dias de hoje (confidencialidade; responsabilização e explicabilidade; viés); dois capítulos sobre a elaboração de políticas públicas; e, enfim, um capítulo sobre a questão da prioridade na ética da IA no mundo de hoje.
No seio do panorama deste campo traçado pelo autor, certos aspectos da obra podem ser destacados relativos a um interesse filosófico particular.
É o caso da sua interpretação das correntes contemporâneas relativas à questão da interação homem-máquina: deve-se “melhorar” o humano (“transumanismo”)? Deveríamos rever a posição central do humano do ponto de vista ontológico (“pós-humanismo”)? O ser humano tem características que lhe são intrínsecas e insubstituíveis (“humanismo”)? A discussão é bem conduzida. Todavia, ainda que autores interessantes sejam apresentados para as duas primeiras correntes de pensamento, pouco é dito quanto ao “novo tipo de humanismo” (2023, p. 48), o que poderia ser considerado necessário.
O transumanismo é ligado por Coeckelbergh ao gnosticismo e ao platonismo, este último sendo, neste caso, concebido como a maneira que a máquina tem de extrair uma forma (o modelo) de um mundo de aparências (os dados). Sendo crítico no que diz respeito ao transumanismo assim definido, o autor propõe avançar nas discussões sobre a IA considerando as “religiões da natureza” orientais, tais como o Xintoísmo. Ainda que ele veja um caminho possível — a maneira “animista” de considerar a tecnologia no Japão, por exemplo, nos permitiria adotar uma atitude mais “amigável” face aos robôs e à IA —, não é evidente como isso não nos levaria a outros problemas, por exemplo uma simples superstição em relação às máquinas.
Não obstante não se fale muito sobre o “humanismo” na obra, o autor reivindica uma sabedoria humana ao final do livro e propõe a “filosofia antiga” como uma fonte de reflexão para a construção de uma boa vida, retomando a caracterização aristotélica dos agentes morais. Nota-se igualmente uma boa apropriação de Hannah Arendt para pensar as formas totalitárias tecnológicas (pela perda de confidencialidade dos dados) e uma possível “banalização” do mal (2023, p. 167) dentre os riscos tecnológicos.
Encontra-se na obra uma insistência do autor por uma ética que considere nossas experiências “corporificadas, relacionais e situacionais” (2023, p. 184). A atenção dada à categoria de pessoas vulneráveis é também interessante, na medida em que levanta questões de desigualdade social e de assimetria de poder. Uma visão crítica é direcionada às perspectivas que analisam a moral segundo regras e princípios, o que levaria a uma “caricatura” da ética.
Reconhece-se que a ética está presente na prática da IA, por exemplo na questão da “explicabilidade”, fundamental para a responsabilidade moral: pode-se compreender como um algoritmo chega a uma decisão particular? O autor denota também que, não obstante o fato de que o ser humano possa parecer ausente das ações da IA, ele está lá: naqueles que fizeram a programação e naqueles que utilizam o algoritmo. O tratamento que a obra dá ao tema do viés é bem-feito, a ponto de tocar realmente nas questões filosóficas: “os desenvolvedores devem incorporar a discriminação positiva em seus algoritmos, ou criar algoritmos ‘cegos”? (2023, p. 126). Encontra-se então uma discussão muito interessante sobre o futuro do trabalho, compreendido não somente como uma fonte de renda, mas igualmente como constitutivo de um sentido, o que deveria ser levado em consideração na discussão visando a determinar quais atividades convém delegar, ou não, à IA.
Quanto à elaboração de políticas públicas e aos desafios postos por estas, o autor traz uma importante dose de realismo às questões até aqui tratadas. Ele indica a necessidade de uma ética não somente negativa de restrição, mas igualmente positiva, que discuta o que é uma boa vida e uma boa sociedade. Esta problematização da questão do bem poderia, segundo o autor, nutrir-se utilmente de outros olhares além daquele da filosofia platônica: ele pensa em uma participação mais democrática no desenvolvimento tecnológico, ainda que através de uma inspiração pelas culturas não-ocidentais (2023, p. 164). Ao mesmo tempo, aqueles que se preocupam com qual papel que a IA poderia ter na política contemporânea (pondo desafios à democracia) eventualmente pensarão que a obra peca por não tratar desta questão – o que talvez se explique pelo fato de que o autor publicou na sequência o livro The Political Philosophy of AI (Polity, 2022).
O último capítulo é dedicado a uma visão mais ampla: quais são as prioridades éticas para o mundo de hoje? Por que se preocupar com a IA em um mundo de fomes, de epidemias e de problemas ambientais tão urgentes, como o aquecimento global? Ao longo de todo o livro, o autor nos relembra que separar software e hardware não é tão simples: tudo o que é virtual depende de uma infraestrutura material. É por isso que centralizar a discussão nas viagens espaciais poderia ser visto como uma forma de “escapismo”, retomando assim a reflexão de Arendt sobre a condição humana.
De maneira geral, a obra traz uma perspectiva ampla e bem informada que, com certeza, não permite resolver todos os problemas, mas que tem o mérito de buscar dar um sentido verdadeiro à ética na IA e de conferir às políticas públicas uma real possibilidade de implementação.