Entrevista com Gius Gargiulo, por Paola Cantarini

 

Esta entrevista foi realizada originalmente em inglês em junho de 2023.

Versão traduzida para o português

Paola Cantarini: Poderia começar nos falando sua área principal de atuação, comentando seu trabalho atual relacionado à Inteligência Artificial?

Gius Gargiulo: Sou um narratologista cognitivista e a minha investigação, desde o início da minha carreira, centrou-se na estrutura lógica das narrativas teorizada pelo estruturalismo narratológico da escola de Paris, em particular por Claude Bremond e pela semiótica de Umberto Eco e Roland Barthes. No entanto, tentei combinar o estruturalismo com a lógica binária dos programas electrónicos de bases de dados (Paradox). Desta forma, ensinei uma inteligência algorítmica com o Paradox a ler uma aventura erótica de Giacomo Casanova, e passei a utilizar o software Plots Unlimited para criar narrativas automáticas e verificar a coerência dos guiões dos operadores humanos.

Paola Cantarini: A seu ver, haveria necessidade e daí, em decorrência, também possibilidade de uma lei mundial que objetive a regulação da IA em termos globais, ainda que estabelecendo apenas patamares mínimos?

Gius Gargiulo: Sim, sou a favor de uma regulamentação internacional, mesmo que mínima, da utilização da IA, mas sou pessimista quanto ao cumprimento efetivo dessa regulamentação por parte das empresas e dos governos.

Paola Cantarini: Como se daria o assim denominado "trade-off" entre inovação e regulação? Ou a regulação por si só iria impedir ou comprometer a inovação e a competição internacional? Segundo Daniel SOLOVE, no livro Nothing to hide. The false tradeoff between privacy and security (Yale University Press, 2011), esta seria uma concepção equivocada. Poderia comentar sobre tal ponto?

Gius Gargiulo: Aplicam-se os mesmos conceitos expressos na resposta anterior. A investigação deve ser livre de seguir as suas próprias intuições. Naturalmente, o importante é que não ponha em causa a liberdade e a segurança dos indivíduos. Mas isso já está a acontecer hoje em dia com a construção de software de defesa cada vez mais atualizado contra a cibercriminalidade de grupos mafiosos e governos ditatoriais.

Paola Cantarini: Tomando como exemplo paradigmático na área de proteção de dados do LIA - avaliação de legítimo interesse, previsto na LGPD e no GDPR da União Europeia como sendo um documento obrigatório de compliance, quando da utilização da base legal de tratamento de dados pessoais, qual seja, do legítimo interesse, onde há, por exemplo, uma análise/teste de proporcionalidade, vc. entende que seria possível a criação de um "framework" voltado à proteção de direitos fundamentais embutido em um documento específico, a AIIA - Avaliação de Impacto Algorítmico? Isso no sentido de se estabelecer, após uma análise via ponderação, medidas de mitigação de riscos a tais direitos, que sejam adequadas, necessárias e proporcionais em sentido estrito.

Gius Gargiulo: Sim, concordo com um "quadro" que visa proteger os direitos fundamentais.

Paola Cantarini: O que se entende por governança de IA? Qual a relação que você vê entre inovação, tecnologia e Direito? Numa governação da IA, muitas inovações, muitas tecnologias e um conjunto essencial de regras.

Gius Gargiulo: Sim, concordo com um “quadro” destinado a proteger os direitos fundamentais. Em uma governança de IA, muitas inovações, muitas tecnologias e um conjunto de regras não essencial.

Paola Cantarini: Na Bienal de arquitetura de Veneza deste ano (2023) o tema do pavilhão brasileiro é a Terra e a ancestralidade, ou seja, a decolonização e o Brasil (“De-colonizando o cânone”, pavilhão "Terra", do Brasil, na Bienal de Veneza). Seria possível fugir de tal lógica colonialista, também presente nas áreas de IA/dados?

Gius Gargiulo: Meus parabéns ao stand brasileiro da Bienal de Arquitetura de Veneza 2023 intitulado "Terra e ancestralidade, mas na verdade não acho possível uma descolonização mesmo com a ajuda da IA enquanto a IA for pensamento científico. A inteligência artificial é um conceito filosófico que depois é um procedimento algorítmico e para sair do terceiro colonialismo, o da mente, é preciso difundir um novo humanismo científico e libertar muitas pessoas da ignorância e este projeto demora décadas.

Paola Cantarini: Quais os principais desafios atualmente com o avanço da IA, considerando a polêmica com o ChatGPT e a "moratória" solicitada em carta/manifesto assinada por Elon Musk e outros expoentes?

Gius Gargiulo: Penso que é uma "captatio benevolentiae" hipócrita com os governos europeus para obter fundos para a investigação e para a realizar. reduzir os impostos sobre os lucros das suas empresas na Europa.

Versão original

Paola Cantarini: What is your area of expertise? Could you tell us about your work related to AI?

Gius Gargiulo: I am a cognitivist narratologist, and my research since the beginning of my career has been on the logical structure of narratives theorized by the narratological structuralism of the Paris school, especially by Claude Bremond and the semiotics of Umberto Eco and Roland Barthes. However, I have tried to combine structuralism with the binary logic of electronic database programs (Paradox). In this way, I taught Paradox, an algorithmic intelligence, how to read an erotic adventure by Giacomo Casanova; I continued by using the software Plots Unlimited to create automatic narratives and check the consistency of human operators' scripts.

Paola Cantarini: Do you think there is a need and the possibility for a worldwide law to regulate AI globally, fixing at least minimum standards?

Gius Gargiulo: Yes, I am in favor of even minimal international regulations governing the use of AI, but I am pessimistic about the actual compliance of these regulations by companies and governments.

Paola Cantarini: How would the so-called "trade-off" between innovation and regulation work? Or would regulation by itself prevent or compromise innovation and international competition? According to Daniel SOLOVE, this would be mistaken concept in his book “Nothing to hide. The false tradeoff between privacy and security” (Yale University Press, 2011). Could you comment on this point?

Gius Gargiulo: The same concepts expressed in the previous answer apply. Research must be free to follow its insights. Of course, the important thing is that it does not endanger the freedom and security of individuals. But this is already happening today with the construction of increasingly up-to-date defense software against cybercrime by mafia groups and dictatorial governments.

Paola Cantarini: Taking as a paradigmatic example in the area of data protection the LIA – the evaluation of legitimate interest, provided in the Brazilian LGPD and in the GDPR of the European Union as being a mandatory compliance document, when using the legal basis for processing personal data, that is, the legitimate interest (measured by a proportionality analysis/test), would it be possible to create a "framework" aiming to protect fundamental rights embedded in a specific document, the AIIA - Algorithmic Impact Assessment? And thus establishing, after a weighted analysis, adequate, necessary, and strictly proportional risk mitigation measures to such rights.

Paola Cantarini: What is to you mean by AI governance? What relationship do you see between innovation, technology, and law?

Gius Gargiulo: Yes, I agree with a “framework” aiming to protect fundamental rights. In AI governance, many innovations, technologies, and an essential set of rules exist.

Paola Cantarini: In this year's Venice Architecture Biennale (2023), the theme of the Brazilian stand is “Earth and ancestry”, that is to say, decolonization and Brazil (“De-colonizing the canon”, Brazil's "Earth" pavilion at the Venice Biennale). Would escaping such colonialist logic in the AI/data areas be possible?

Gius Gargiulo: My congratulations to the Brazilian stand at Venice Architecture Biennale 2023 titled “Earth and ancestry, but actually I don’t think possible decolonization even with the help of AI while AI is scientific thinking. Artificial intelligence is a philosophical concept that later becomes an algorithm procedure. To get out of the third colonialism, that of the mind, a new scientific humanism must be spread, and many people must be freed from ignorance; this project takes decades.

Paola Cantarini: What are the main challenges today with the advancement of AI, and after the controversy with ChatGPT and the "moratorium" requested in a letter/manifesto by Elon Musk and other leading figures?

Gius Gargiulo: It is a hypocritical “captatio benevolentiae” with the European governments to obtain research funds and get it done. reduce taxes on the profits of its companies in Europe.