Esta resenha foi originalmente publicada em francês (Cortese, João. F. N. B, “Compte rendu de Mark Coeckelbergh, AI Ethics”, Revue des questions scientifiques, 2020) e traduzida para a língua portuguesa por Mateus Henrique Amorim

As referências do texto foram atualizadas de acordo com a recente edição brasileira lançada em parceria pela Ubu Editora e Editora PUC-Rio, em 2023. A presente resenha não avalia a tradução da obra, mas apenas a sua redação original.

COECKELBERGH, Mark (2023). Ética na Inteligência Artificial. Título original: AI Ethics. trad. por Clarisse de Souza et al. São Paulo / Rio de Janeiro: Ubu Editora / Editora PUC- Rio.

        Este livro compõe uma introdução excelente à ética na Inteligência Artificial (IA), boa tanto para aqueles que vêm das ciências humanas como para aqueles que se preocupam com os avanços da tecnologia.

       A obra cobre casos limites, tais como a possibilidade de uma superinteligência (máquinas que se tornariam mais inteligentes que os seres humanos) e o estatuto moral das máquinas: a agência moral (deve-se atribuir um caráter moral às ações de uma IA?) e a responsabilidade moral [moral patiency] (como as máquinas devem ser tratadas?). Mas o autor se propõe sobretudo mostrar como a IA já se faz presente em inúmeros campos da sociedade: os sistemas de recomendação das ferramentas de busca, as plataformas de mídias sociais, e mesmo sua presença nos carros e nas armas autônomas. Um dos méritos do livro é distinguir bem entre os problemas próprios à IA e aqueles que são comuns às outras tecnologias de automação. Ao mesmo tempo, ele indica que, mesmo nos casos de desafios comuns, a IA pode agravar os problemas já existentes.

         A obra destaca judiciosamente o fato de que as questões sobre a IA fazem com que ao final, tal qual um espelho, nós nos coloquemos questões sobre a própria humanidade: diz-se que a máquina simula uma inteligência, porém o que é precisamente a inteligência humana? Colocam-se questões análogas em relação a conceitos tais como a responsabilidade moral.

      O livro contém quatro capítulos dedicados aos fundamentos filosóficos; dois capítulos de apresentação da tecnologia (a IA em geral e o aprendizado de máquina em particular); três capítulos consagrados às questões éticas que já são postas à IA nos dias de hoje (confidencialidade; responsabilização e explicabilidade; viés); dois capítulos sobre a elaboração de políticas públicas; e, enfim, um capítulo sobre a questão da prioridade na ética da IA no mundo de hoje.

        No seio do panorama deste campo traçado pelo autor, certos aspectos da obra podem ser destacados relativos a um interesse filosófico particular.

         É o caso da sua interpretação das correntes contemporâneas relativas à questão da interação homem-máquina: deve-se “melhorar” o humano (“transumanismo”)? Deveríamos rever a posição central do humano do ponto de vista ontológico (“pós-humanismo”)? O ser humano tem características que lhe são intrínsecas e insubstituíveis (“humanismo”)? A discussão é bem conduzida. Todavia, ainda que autores interessantes sejam apresentados para as duas primeiras correntes de pensamento, pouco é dito quanto ao “novo tipo de humanismo” (2023, p. 48), o que poderia ser considerado necessário.

         O transumanismo é ligado por Coeckelbergh ao gnosticismo e ao platonismo, este último sendo, neste caso, concebido como a maneira que a máquina tem de extrair uma forma (o modelo) de um mundo de aparências (os dados). Sendo crítico no que diz respeito ao transumanismo assim definido, o autor propõe avançar nas discussões sobre a IA considerando as “religiões da natureza” orientais, tais como o Xintoísmo. Ainda que ele veja um caminho possível — a maneira “animista” de considerar a tecnologia no Japão, por exemplo, nos permitiria adotar uma atitude mais “amigável” face aos robôs e à IA —, não é evidente como isso não nos levaria a outros problemas, por exemplo uma simples superstição em relação às máquinas.

         Não obstante não se fale muito sobre o “humanismo” na obra, o autor reivindica uma sabedoria humana ao final do livro e propõe a “filosofia antiga” como uma fonte de reflexão para a construção de uma boa vida, retomando a caracterização aristotélica dos agentes morais. Nota-se igualmente uma boa apropriação de Hannah Arendt para pensar as formas totalitárias tecnológicas (pela perda de confidencialidade dos dados) e uma possível “banalização” do mal (2023, p. 167) dentre os riscos tecnológicos.

         Encontra-se na obra uma insistência do autor por uma ética que considere nossas experiências “corporificadas, relacionais e situacionais” (2023, p. 184). A atenção dada à categoria de pessoas vulneráveis é também interessante, na medida em que levanta questões de desigualdade social e de assimetria de poder. Uma visão crítica é direcionada às perspectivas que analisam a moral segundo regras e princípios, o que levaria a uma “caricatura” da ética.

         Reconhece-se que a ética está presente na prática da IA, por exemplo na questão da “explicabilidade”, fundamental para a responsabilidade moral: pode-se compreender como um algoritmo chega a uma decisão particular? O autor denota também que, não obstante o fato de que o ser humano possa parecer ausente das ações da IA, ele está lá: naqueles que fizeram a programação e naqueles que utilizam o algoritmo. O tratamento que a obra dá ao tema do viés é bem-feito, a ponto de tocar realmente nas questões filosóficas: “os desenvolvedores devem incorporar a discriminação positiva em seus algoritmos, ou criar algoritmos ‘cegos”? (2023, p. 126). Encontra-se então uma discussão muito interessante sobre o futuro do trabalho, compreendido não somente como uma fonte de renda, mas igualmente como constitutivo de um sentido, o que deveria ser levado em consideração na discussão visando a determinar quais atividades convém delegar, ou não, à IA.

         Quanto à elaboração de políticas públicas e aos desafios postos por estas, o autor traz uma importante dose de realismo às questões até aqui tratadas. Ele indica a necessidade de uma ética não somente negativa de restrição, mas igualmente positiva, que discuta o que é uma boa vida e uma boa sociedade. Esta problematização da questão do bem poderia, segundo o autor, nutrir-se utilmente de outros olhares além daquele da filosofia platônica: ele pensa em uma participação mais democrática no desenvolvimento tecnológico, ainda que através de uma inspiração pelas culturas não-ocidentais (2023, p. 164). Ao mesmo tempo, aqueles que se preocupam com qual papel que a IA poderia ter na política contemporânea (pondo desafios à democracia) eventualmente pensarão que a obra peca por não tratar desta questão – o que talvez se explique pelo fato de que o autor publicou na sequência o livro The Political Philosophy of AI (Polity, 2022).

        O último capítulo é dedicado a uma visão mais ampla: quais são as prioridades éticas para o mundo de hoje? Por que se preocupar com a IA em um mundo de fomes, de epidemias e de problemas ambientais tão urgentes, como o aquecimento global? Ao longo de todo o livro, o autor nos relembra que separar software e hardware não é tão simples: tudo o que é virtual depende de uma infraestrutura material. É por isso que centralizar a discussão nas viagens espaciais poderia ser visto como uma forma de “escapismo”, retomando assim a reflexão de Arendt sobre a condição humana.

        De maneira geral, a obra traz uma perspectiva ampla e bem informada que, com certeza, não permite resolver todos os problemas, mas que tem o mérito de buscar dar um sentido verdadeiro à ética na IA e de conferir às políticas públicas uma real possibilidade de implementação.