IA e a Educação Paulista

Por Eduardo Moura

Em 17 de abril de 2024 (1), a Secretaria de Educação do Estado de São Paulo (Seduc-SP) implementou Inteligência Artificial (IA) para criar e avaliar materiais pedagógicos em todas as escolas estaduais. Segundo a Folha de S. Paulo, essa medida faz parte de uma política continuada de “digitalização acelerada”, definida pelo Secretário Renato Feder como “processo de implementação de um pacote de tecnologia para tornar a escola mais moderna e atrativa aos estudantes” (2) . No entanto, a adoção de modelos de IA na educação, que deveria ser pautada por valores democráticos, transparência e ampla participação da sociedade, vem ocorrendo sem considerar seus impactos e implicações, o que pode trazer consequências desastrosas para o sistema educacional público. Como veremos a seguir, é necessário um debate aprofundado e a preparação adequada da sociedade antes de se introduzir a IA generativa no âmbito educacional.

O Conteúdo

Os defensores da incorporação da Inteligência Artificial (IA) no campo educacional destacam, frequentemente, duas vantagens: o aumento da produtividade e a melhoria da qualidade. No caso do governo do estado de São Paulo, o Governador Tarcísio de Freitas afirmou, em coletiva de imprensa realizada em 17 de abril de 2024, que o modelo de IA aplicado à revisão e produção de slides seria meramente uma ferramenta utilizada para facilitar a missão da Seduc-SP (3):

"É um facilitador. As ferramentas estão aí, a gente tem que usar a tecnologia para facilitar a nossa missão. A gente não pode deixar de usar a tecnologia por preconceito, por qualquer razão. Obviamente tem que usar tecnologia com parcimônia, com todas as reservas que são necessárias [...] nada vai substituir o papel do professor, até porque a responsabilidade de estar na sala de aula é dele" (4).

Nesse contexto, conforme documento obtido pela TV Globo (Imagem 1) a IA avaliará apresentações em PowerPoint existentes, os quais foram conceituados pela Secretaria como material didático digital, parte da proposta de “digitalização acelerada”. Em seguida, “gerará a primeira versão da aula com base nos temas pré-definidos e referências concedidas pela Secretaria”.

Imagem 1. Reprodução de documento obtido pela TV Globo (5)

Convém salientar que os PowerPoint originais estão sendo submetidos a revisão por motivos importantes. De acordo com a Análise crítica do material didático do estado de São Paulo, publicada pela Associação Brasileira de Autores de Livros Educativos (ABRALE), os slides, além de apresentarem erros conceituais, são pedagogicamente inadequados (6).

"Considerando as orientações da Base Nacional Comum Curricular (BNCC) para o componente curricular a análise do material apresenta diversos problemas, de modo que seguramente não seria aprovado pela banca examinadora que avalia os livros didáticos no PNLD por infringir várias das exigências do edital do MEC. Em relação ao Currículo Paulista o material também não cumpre o que promete, já que a perspectiva enunciativo-discursiva não se manifesta na organização dos conteúdos dos slides [...] Nesse sentido, como veremos a seguir, o material digital da Seduc não cumpre o Currículo Paulista nem a BNCC". (ABRALE, 2023, grifo nosso).

Como se vê, os recursos digitais (PowerPoint), utilizados como material didático por 3,5 milhões de alunos da rede estadual paulista, dificilmente seriam aprovados no Programa Nacional do Livro e do Material Didático (PNLD) (7): eles não seguem minimamente as orientações curriculares propostas na BNCC e Currículo Paulista. O PNLD, regido pelo Decreto nº 9.099/2017, estabelece critérios rigorosos para a avaliação de materiais didáticos. Entre seus objetivos, destaca-se especialmente o fomento à leitura e ao estímulo da atitude investigativa dos estudantes. Como afirma o documento do PNLD 2024-2027:

"Priorizar esse objetivo é uma forma de garantir que durante o ciclo do PNLD 2024 sejam sanados eventuais problemas ocorridos ao longo do processo do isolamento social. [...] almeja-se proporcionar, durante o ciclo de 2024-2027, especial atenção para o desenvolvimento de capacidades leitoras, oportunizando a devida consolidação dos Anos Iniciais e a necessária preparação para o Ensino Médio (BRASIL, Programa Nacional do Livro e do Material Didático, PNLD 2024-2027, grifo nosso)" (8).

Esta abordagem visa não apenas a implementação efetiva da BNCC, mas também a superação de possíveis lacunas educacionais resultantes do período de pandemia.

"É nessa perspectiva que se deve enfocar, de forma transversal, a leitura e a pesquisa (IV) no apoio à implementação da BNCC (VI), tanto nas referidas obras didáticas quanto nos outros dois tipos de materiais (ou objetos) que compõem este Edital: Recursos Educacionais Digitais (REDs) e Livros Literários (BRASIL, Programa Nacional do Livro e do Material Didático, PNLD2024-2027, grifo nosso)".

Por exemplo, de forma resumida, no componente curricular de Língua Portuguesa (conforme explicitado no fragmento abaixo, extraído do Edital do PNLD (2024-2027) isso significaria seguir uma perspectiva enunciativo-discursiva.

"Além de seguir os critérios eliminatórios comuns na estruturação de todos os volumes da obra didática (impresso e digital-interativo) de Língua Portuguesa, deve-se: [...] f. Apresentar abordagem conceitual baseada na perspectiva enunciativo-discursiva da linguagem, como preconiza a BNCC" (BRASIL, Programa Nacional do Livro e do Material Didático, PNLD 2024-2027, grifo nosso) (9).

Ou seja, dentre as diversas medidas voltadas "para o desenvolvimento de capacidades leitoras", deveria ter sido adotada aquela em que o texto é trabalhado por meio de práticas situadas. Perspectiva que também faz parte dos critérios pedagógicos definidos pelo próprio Currículo Paulista, o que não é novidade, ou mesmo estranho aos professores-curriculistas da Seduc-SP, pois essa orientação está presente nos Parâmetros Curriculares Nacionais (PCN) desde 1988, como se vê abaixo.

"O Currículo Paulista, em consonância com a Base Nacional Comum Curricular (BNCC), sustenta para o componente de Língua Portuguesa a perspectiva enunciativo-discursiva e retoma os Parâmetros Curriculares Nacionais para definir linguagem como: [...] uma forma de ação interindividual orientada para uma finalidade específica; um processo de interlocução que se realiza nas práticas sociais existentes numa sociedade, nos distintos momentos de sua história" (BRASIL, 1998, p. 20).

No entanto, como descrito na análise publicada pela ABRALE, o material da Seduc-SP não cumpre o mínimo que se espera de um material de referência usado por 3,5 milhões de alunos da rede estadual paulista. Mais grave, os resultados recentes indicam um preocupante retrocesso no desenvolvimento das capacidades de leitura dos estudantes nos anos finais do ensino fundamental em 2023. Quase todas as 91 diretorias de ensino registraram queda no desempenho, sendo que em quase um terço delas (isto é, 28) essa queda foi superior a 10% (10). Diante desses fatos, argumenta em favor da automação da leitura crítica.

Vale explicar que a etapa de leitura crítica, no contexto da produção de materiais didáticos, é um processo editorial essencial. Esta leitura é realizada por especialistas da área que possuem profundo conhecimento dos conteúdos a serem trabalhados, transposição didática, referências pedagógicas e o contexto de legislação e parametrização que guiam os currículos locais e normas federais. Neste cenário, a leitura crítica envolve uma análise detalhada e reflexiva do material, avaliando sua coerência, coesão, argumentação, veracidade das informações, estrutura textual e linguagem utilizada. O objetivo é garantir que o material didático seja preciso, claro e relevante para os estudantes e professores. Os especialistas examinam se o conteúdo está alinhado com os objetivos educacionais e os parâmetros curriculares, verificando a adequação pedagógica e didática. Eles consideram a legislação educacional vigente, as diretrizes curriculares locais e federais, e as melhores práticas pedagógicas. A leitura crítica também visa identificar e corrigir falhas, ambiguidades, inconsistências ou pontos que necessitem de maior desenvolvimento ou clareza. A leitura crítica no contexto educacional requer uma abordagem ativa e questionadora. O leitor crítico não apenas absorve o que está escrito, mas também avalia as intenções do autor, os pressupostos subjacentes e o impacto potencial do texto sobre os alunos. Esta etapa é crucial no processo editorial, pois assegura que o material final seja de alta qualidade, confiável e eficaz na comunicação de suas ideias, contribuindo para uma educação significativa e alinhada com os objetivos pedagógicos estabelecidos. Sabendo da relevância e do papel da leitora crítica, a Seduc-SP, por meio de nota (11) abaixo, propõe automatizar e integrá-la ao processo de revisão.

"A Secretaria da Educação do Estado de São Paulo (Seduc-SP) planeja implementar um projeto-piloto para incluir a IA como uma das etapas do processo de atualização e aprimoramento de aulas do terceiro bimestre dos Anos Finais do Ensino Fundamental e do Ensino Médio" (12) (grifo nosso).

Segundo a Secretaria, esta abordagem será incorporada “como uma das etapas do processo de atualização e aprimoramento de aulas do terceiro bimestre dos Anos Finais do Ensino Fundamental e do Ensino Médio”. A Seduc-SP frisa que neste novo “processo de fluxo editorial” (Ver Imagem 1)

"[...] as aulas que já foram produzidas por um professor curriculista e já estão em uso na rede são aprimoradas pela IA com a inserção de novas propostas de atividades, exemplos de aplicação prática do conhecimento e informações adicionais que enriqueçam as explicações de conceitos-chave de cada aula" (grifo nosso).

Destaca-se ainda que, na sequência, após a revisão feita pela IA, os docentes-curriculistas deverão avaliar a aula gerada e realizar os ajustes necessários para adequá-la aos “padrões pedagógicos.

Na sequência, esse conteúdo será avaliado e editado por professores curriculistas em duas etapas diferentes, além de passar por revisão de direitos autorais e intervenções de design. Por fim, se essa aula estiver de acordo com os padrões pedagógicos, será disponibilizada como versão atualizada das aulas feitas em 2023. Atualmente, a Seduc-SP conta com um time de cerca de 90 professores curriculistas"(grifo nosso).

Que padrões pedagógicos seriam esses?

Talvez esses padrões pedagógicos sejam parametrizados por meio do “Guia de premissas pedagógicas e de padronização” que circula na Seduc-SP (Imagem 2).

Imagem 2. Recorte de documento obtido pela TV Globo (13)

De certa forma, o uso da Inteligência Artificial (IA) pela Secretaria de Educação do Estado de São Paulo (Seduc-SP) poderia esclarecer a justificativa apresentada por Tarcísio de Freitas em coletiva de imprensa realizada em 17 de abril. Na ocasião, ele afirmou que a IA seria apenas uma ferramenta usada para auxiliar a "nossa missão". “É um facilitador. As ferramentas estão aí, a gente tem que usar a tecnologia para facilitar a nossa missão” (14).

No entanto, o Governador não esclareceu qual seria essa "missão". Tampouco, os padrões pedagógicos que norteiam a implementação dos modelos de IA para a produção-revisão dos slides usados por 3,5 milhões de alunos da rede estadual paulista como materiais didáticos.

Como observamos, muitas questões precisam ser esclarecidas. Portanto, antes de apresentarmos nosso ponto de vista, de que a implementação da IA na educação paulista é autoritária, precipitada e carece de um debate aprofundado sobre suas implicações éticas e educacionais, vamos esboçar (Quadro 1) uma primeira tentativa de esclarecer a nós mesmos o cenário em que a IA está sendo inserida.

Quadro 1. Processo de Avaliação e Produção de Materiais Pedagógicos

Período	Etapa	Agentes Envolvidos	Ação (Descrição)
Antes do Projeto-Piloto	Produção	Curriculistas	- Criação do material digital de apoio pedagógico inicial (PowerPoint)
Antes do Projeto-Piloto	Uso e Avaliação	Comunidade Escolar e Sociedade	- Identificação de erros conceituais e inadequações às diretrizes pedagógicas mínimas.
Depois do Projeto-Piloto	Leitura, Revisão e Produção intermediária	Inteligência Artificial	- Avaliação do PowerPoint inicial - Sugestão de mudanças - Inserção de novos conteúdos (exemplos práticos, novos tópicos, etc.)
	Leitura, Revisão e Produção final	Curriculistas	- Avaliação do PowerPoint intermediário gerado pela IA - Ajustes necessários para adequação a padrões pedagógicos orientados por Guia de premissas pedagógicas e de padronização.
	Uso e Avaliação	Comunidade Escolar e Sociedade	- Ainda a ser feita

Fonte: Quadro criado pelo autor exclusivamente para este texto com base em entrevistas, notas e reportagens jornalísticas discutidas aqui.

É crucial destacar que a autoria (e a autoridade) deste "projeto-piloto" está nas mãos do secretário (e empresário do setor de tecnologia) Renato Feder, como aponta o jornal Folha de São Paulo. Segundo o veículo, foi o empresário quem decidiu agilizar a produção dos PowerPoint:

A decisão de usar o Chat GPT foi do próprio secretário de Educação, o empresário Renato Feder, para agilizar a produção do material didático que é usado pelos 3,5 milhões de alunos da rede estadual paulista (15).

Como vimos, diante do que se constata (Quadro 1), o empresário avaliou que a melhor decisão a ser tomada nesse momento seria mesmo automatizar a leitura crítica dos slides com auxílio de IA como meio de "facilitar" e "acelerar" a revisão deste ciclo (Quadro 2) de produção de PowerPoint - recurso digital utilizado como material didático por 3,5 milhões de alunos da rede estadual paulista. Esta é uma segunda tentativa de esclarecer a nós mesmos o cenário em que a IA está sendo inserida.

Quadro 2. O Ciclo de Produção e Revisão do Projeto-Piloto

Fonte: Quadro criado pelo autor exclusivamente para este texto com base em entrevistas, notas e reportagens jornalísticas discutidas aqui.

Segundo Feder (16), com o uso da IA, os curriculistas passam a entregar “3 aulas” a cada 2 dias úteis, resultando em pelo menos 6 PowerPoint por semana. Até o segundo bimestre de 2024, os curriculistas tinham que entregar “4 aulas” (PowerPoint) por semana. Esta (Quadro 3) é uma terceira tentativa de esclarecer a nós mesmos o cenário em que a IA está sendo inserida.

Quadro 3. Produção de PowerPoint Antes e Depois do Projeto-Piloto

Período	Entregas por semana	Resultados
Antes do Projeto-Piloto	4 PowerPoint	- Erros conceituais - Inadequação à legislação e diretrizes pedagógicas
Depois do Projeto-Piloto	6 PowerPoint	- Provável adequação aos padrões pedagógicos orientados por Guia de premissas pedagógicas e de padronização - Aumento de produtividade de 2 PowerPoint por semana

Fonte: Quadro criado pelo autor exclusivamente para este texto com base em entrevistas, notas e reportagens jornalísticas discutidas aqui.

A análise do quadro atual da Educação Paulista evidencia que o foco educacional principal da implementação da IA é o aumento da produtividade, em detrimento da qualidade, da adequação às diretrizes curriculares e à missão essencial de décadas de “fomentar a leitura e o estímulo à atitude investigativa dos estudantes” e de promover o desenvolvimento de capacidades leitoras dos estudantes. A imposição de padrões pedagógicos pela equipe do Secretário e da Seduc-SP, sem um debate amplo e transparente, reforça ainda mais o caráter autoritário dessa medida. É preocupante que decisões tão importantes para a educação paulista sejam conduzidas dessa forma, sem a devida participação da comunidade educacional e da sociedade como um todo. A falta de transparência e de um processo democrático na implementação da IA na educação levanta sérios questionamentos sobre a competência e a legitimidade dessa iniciativa e se junta a uma série de críticas ao Secretário Empresário de Tecnologia.

O G1, em 2023, listou 10 momentos em que o Secretário Empresário de Tecnologia Renato Feder foi alvo de críticas; abaixo relembramos esses pontos como mais uma tentativa de esclarecer a nós mesmos o cenário em que a IA está sendo inserida.

Não adesão ao PNLD
Materiais 100% digitais
Erros no material didático
Ensino sob vigilância
Conflito de interesses
Instalação de app sem autorização
Compras sem licitação
Fechamento de salas
Falta de psicólogos em escolas
Cancelamento de matrículas (17)

Design top-down

Diante desse cenário alarmante, é imperativo que a sociedade se mobilize para exigir transparência, responsabilidade e competência na gestão da educação paulista. Não podemos permitir que a implementação irresponsável e autoritária de tecnologias como a IA comprometa o futuro de milhões de estudantes e a qualidade da educação pública no estado de São Paulo.

Segundo Daron Acemoglu e Simon Johnson (2023, p. 358-359), não é preciso esperar o desenvolvimento de uma super IA: o uso de modelos atuais já apresenta três implicações consideráveis para a sociedade:

Quantificação massiva de dados: Vigilância.
Escalabilidade desordenada: Falta de alinhamento da IA (em inglês, AI alignment)
Automação instrumental: Controle, poder e ampliação de desigualdades sociais-econômicas.

Para Acemoglu e Johnson (p. 349), o foco atual em automação (que vai de atividades simples/repetitivas às atividades notoriamente mais complexas) é impulsionado por uma visão elitista de “avanço” e de concepção autônomos das invenções tecnológicas, como os modelos de IA. De acordo com defensores dessa visão, a maioria dos seres humanos estaria propensa a cometer erros e não seria muito boa nas tarefas que realiza.

Com base nessa visão de mundo, seria desejável usar um design top-down para limitar os erros e os custos decorrentes de falhas humanas.

Essa abordagem justificaria a substituição de trabalhadores por máquinas e algoritmos, tornando modelos de automação por IA e a coleta de grandes quantidades de dados sobre as pessoas toleráveis. Esse enfoque de automação/substituição, que enfatiza a necessidade de superar “limitações” humanas como critério de desenvolvimento e implementação de novas tecnologias, alinha-se sem dificuldades à mentalidade empresarial voltada à vigilância, controle, redução de custos e aumento de produtividade.

No caso particular da educação e de professores, essa visão de mundo (que visa automação por meio do controle e supressão de agência no ensino-aprendizado) é recorrente. Atribuem-se injustamente aos professores muitas das falhas na educação e, infelizmente, observa-se a recorrência de projetos-piloto e de ações de formação implementados com base nessa concepção de desconfiança e de menosprezo aos professores.

"temos visto um aumento nas políticas que visam diretamente os professores e o ensino, chegando ao ponto de problematizar os resultados decepcionantes dos testes dos alunos em termos da "questão do professor", em que a culpa pelos maus resultados dos alunos é colocada diretamente nos ombros dos professores" (Knobel; Kalman, 2016, p. 2).

Nesse contexto, a adoção de tecnologias digitais pelas escolas de São Paulo tem sido um dos componentes principais no esforço para “melhorar” e “controlar” a prática dos professores. Como Knobel e Kalman (2016, p.) destacam, nesses casos, (além de desconfiança e menosprezo para com a prática docente) há ainda uma crença de que o uso de novas tecnologias digitais naturalmente trará melhoria ao ensino; naturalmente “modernizará” a escola, tornando-a “mais atrativa aos estudantes”.

Dessa forma, vemos comumente gestores oscilarem entre três conjuntos de valores associados à adoção de tecnologias digitais em contexto educacional (Knobel; Kalman, 2016, pp. 8-9):

Treinamento: devemos treinar os professores para usar computadores e navegar na internet, com o objetivo de introduzir essas tecnologias como uma nova área de ensino. Assim, os professores passarão naturalmente a ensinar os alunos como usar recursos digitais diversos, contribuindo para o sucesso escolar.
Eficiência: a inclusão de tecnologias digitais nas salas de aula tornará os professores mais eficientes. Os professores farão o que sempre fizeram, mas de maneira melhor e mais rápida. Devemos focar na produtividade docente, e no desenvolvimento de habilidades e domínio de materiais digitais de ensino, como PowerPoint, software especializado e planos de aula pré-embalados, que ajudam a engajar os alunos no uso de tecnologias digitais durante o aprendizado.
Transformação Educacional: tecnologias digitais são autonomamente um catalisador para transformar ou conceber o ensino e a aprendizagem. Não se trata de usar novas tecnologias digitais de informação e comunicação (TDIC) para fazer o mesmo de forma melhor, mais rápida ou mais fácil, mas de implementar práticas e processos de ensino inovadores de ensino-aprendizagem impossíveis sem essas tecnologias.

No entanto, é crucial questionar essa visão de mundo elitista e instrumental de tecnologia, indo além de suas propostas tecnosolucionistas, que prescrevem erradamente soluções tecnológicas para todos os problemas sociais, políticos e educacionais. Mais do que isso, devemos rejeitar essas mentalidades deterministas que veem os desenvolvimentos sociotecnológicos como autônomos e fora do alcance social e de instituições democráticas.

No caso dos modelos de IA, como aponta Coeckelbergh (2024), é crucial ter em mente que:

"A IA não é politicamente neutra, mas atualmente molda os nossos sistemas políticos de formas que ameaçam a democracia e apoiam tendências antidemocráticas, minando os princípios democráticos, corroendo o conhecimento e a confiança necessários para a democracia e promovendo o bem de alguns em detrimento do de muitos" (p. 5)

Os processos de automação e coleta de dados desenfreados, decorrentes de políticas de implementação de IA como visto aqui, não são projetados em benefício de qualidade e justiça social. Muito menos são arquitetados com objetivo de se criar uma educação mais “moderna e atrativa aos estudantes” e professores. A prosperidade e os ganhos prometidos pelo desenvolvimento tecnológico não são (e nunca foram) compartilhados igualmente. Historicamente, o que se vê é o oposto.

"De fato, mil anos de história e provas contemporâneas tornam uma coisa muito clara: não há nada de automático no facto de as novas tecnologias trazerem prosperidade generalizada. Se o fazem ou não, é uma escolha económica, social e política" (Acemoglu; Johnson, 2023, p. 22).

Acemoglu e Johnson (2023) nos lembram que, se hoje alguns poderiam até advogar por uma certa prosperidade compartilhada pelo desenvolvimento de novas tecnologias:

"vivemos com muito mais saúde, vidas mais longas, com confortos que aqueles que viviam há algumas centenas de anos não podiam sequer imaginar. E, claro, o progresso científico e tecnológico é uma parte vital desta história e terá de ser a base de qualquer processo futuro de ganhos partilhados" (p. 14).

Isso se deve somente porque uma parcela da sociedade lutou para alterar a direção dos avanços tecnológicos contra abusos e arranjos que serviam a uma elite restrita. Se somos minimamente beneficiários de alguma “melhoria e qualidade de vida”, isso se deve principalmente porque nossos predecessores lutaram para que o desenvolvimento tecnológico minimamente incluísse mais pessoas.

"A competição eleitoral, a ascensão dos sindicatos e a legislação de proteção dos direitos dos trabalhadores alteraram a forma como a produção era organizada e os salários eram fixados na Grã-Bretanha do século XIX. Juntamente com a chegada de uma nova onda de inovação dos Estados Unidos, também forjaram uma nova direção da tecnologia - centrada no aumento da produtividade dos trabalhadores, em vez de se limitarem a substituir por máquinas as tarefas que costumavam executar ou a inventar novas formas de os controlar. No século seguinte, esta tecnologia espalhou-se pela Europa Ocidental e depois pelo mundo" (Acemoglu; Johnson, 2023, p. 15)

Segundo os autores, essas mudanças significativas não são o resultado de ganhos automáticos e garantidos do progresso tecnológico, mas sim refletem organização e enfrentamento às escolhas da elite (de quantificação, vigilância, escalabilidade e automação desreguladas e desenfreada) sobre avanços contra (e sobre) condições justas de trabalho, forçando maneiras mais equitativas de compartilhar os benefícios das ditas "melhorias" e mudanças técnicas (Acemoglu; Johnson, 2023).

Talvez precisemos retomar as lutas por direitos diante de “digitalizações aceleradas”, “projetos-piloto” e “plataformizações” (18) na educação pública, as quais enriquecem um pequeno grupo de empresários e investidores, enquanto a maioria das pessoas é prejudicada (19), ou se beneficiam pouco com isso.

Democracia by design

Voltando à Inteligência Artificial (IA), Mark Coeckelbergh, por exemplo, nos oferece uma perspectiva interessante: a importância de se reconhecer o pleno caráter político da IA.

Coeckelbergh aponta para a necessidade de um desenvolvimento democrático de IA (Democracy by design) e da concepção do que poderíamos chamar de tecnodemocracia (algo contrário à tecnocracia e ao autoritarismo digital). Uma democracia que reflete e transforma (sistematicamente) a si própria e as suas tecnologias, com base na consciência de que tecnologias, como os modelos de IA, não são neutras (Coeckelbergh, 2024).

Para o filósofo, isso requer a injeção de valores e preocupações éticas e políticas tanto no processo de desenvolvimento como em projetos de implementação de inovações tecnológicas. Em vez de projetos autoritários top-down de IA, seria necessário desenvolvermos práticas deliberativas e participativas voltadas aos usos desses modelos, garantindo que a implementação da IA seja guiada por valores democráticos e sirva ao bem comum, e não apenas aos interesses de uma elite restrita.

Nesse caso, a participação ativa e informada dos professores, estudantes, da sociedade e dos principais atores envolvidos/afetados pelo processo é fundamental para moldar a IA de maneira a beneficiar a todos, e não apenas a poucos. No contexto educacional público, é crucial garantir que o processo de design, criação e implementação de IA respeite e promova valores democráticos:

Transparência e Participação: O desenvolvimento de tecnologias de IA deve ser transparente, com envolvimento ativo de educadores, alunos, pais e outras partes interessadas. Processos participativos ajudam a identificar e mitigar riscos desde o início.
Responsabilidade e Controle Humano: A IA deve ser uma ferramenta para apoiar, e não substituir, a tomada de decisões humanas. Educadores devem manter o controle e a responsabilidade sobre as decisões educacionais.
Equidade e Inclusão: As tecnologias de IA devem ser projetadas para promover a equidade e a inclusão, garantindo que todos os alunos, independentemente de sua origem socioeconômica, tenham acesso igualitário a oportunidades educacionais.
Educação Crítica sobre Tecnologia: Os currículos educacionais devem incluir a educação crítica sobre tecnologia, preparando os alunos para entender e questionar o uso de IA e outras tecnologias em suas vidas e na sociedade.

Além disso, é essencial estabelecer mecanismos de governança e regulamentação para garantir que a IA seja desenvolvida e implementada de maneira responsável e ética no sistema educacional. Isso inclui a criação de diretrizes claras, a realização de avaliações de impacto e a supervisão contínua do uso da IA na educação (Quadro 4) - esta é uma outra tentativa de esclarecer a nós mesmos o cenário em que a IA está sendo inserida.

Quadro 4. Perguntas de Interesse Público quanto ao uso de IA na Educação pública

Transparência e Participação ● Qual versão específica do modelo (OpenAI, ou outro) está sendo utilizada (gpt-4o, ou outro)? Existem documentos públicos que detalham essa escolha? ● Que técnicas específicas foram usadas para ajustar o modelo (ex.: ajuste fino, adaptação de domínio, personalização de conteúdo, RAG, aprendizagem por transferência, poda de modelo, quantização, treinamento contínuo com dados atualizados, ajuste de hiperparâmetros, regularização, destilação de conhecimento etc.)? ● Que procedimentos documentados (ex.: base de dados, relatórios de auditoria, documentos de conformidade, atas de reuniões) foram seguidos para afinar o modelo, e onde esses documentos podem ser acessados pelo público? ● Como foi garantida a participação de especialistas, educadores, na escolha e adaptação do modelo? Houve consultas públicas, workshops ou reuniões com a comunidade? Existem registros dessas participações? Responsabilidade e Controle humano ● Quais tipos de decisões são exclusivamente humanos, e quais são suportadas pela IA? Existe um documento de política que delineie esses limites? ● Que registros (logs de decisões, relatórios de uso) são mantidos para monitorar produções e decisões tomadas pela IA, e como esses registros são auditados regularmente? ● Que protocolos de intervenção estão em vigor para permitir a revisão humana de decisões controversas da IA? Existe um fluxo de trabalho documentado para esses casos? Equidade e Inclusão ● Quais foram os critérios para garantir que o modelo de IA não perpetue vieses existentes? Foram realizadas auditorias de viés? Onde os resultados dessas auditorias estão disponíveis? ● Como foi avaliada a representatividade dos dados utilizados no ajuste fino do modelo? Existe um relatório detalhando a diversidade e abrangência dos dados de treinamento? ● Quais medidas específicas (ex.: provisionamento de hardware/software, treinamentos inclusivos) foram tomadas para garantir que acesso igualitário e justo à implementação de IA? Mitigação de Vieses Epistemológicos ● Auditoria de Vieses: foram definidas auditorias regulares para identificar e mitigar vieses nos modelos de IA? ● Diversidade de Dados: Foi garantido que os dados de treinamento e ajuste fino fossem diversos e representativos de todas as demografias e complexidade presentes no ambiente educacional e exigidas em documentos curriculares oficiais? ● Revisão de Conteúdo: as revisões de conteúdos criados preveem comitês diversificados para assegurar que as perspectivas múltiplas sejam consideradas e representadas? ● Capacitação Contínua: Serão oferecidos formação regulares aos especialistas-educadores envolvidos sobre identificação e mitigação de vieses nos usos de IA? Educação Crítica sobre Tecnologia ● Como a inclusão da IA nos currículos está sendo implementada para promover uma compreensão crítica (tanto por parte dos professores como dos estudantes? ● Existem materiais didáticos específicos desenvolvidos para esse fim? ● Que tipos de ferramentas e recursos (ex.: workshops de formação, guias de ensino) estão sendo disponibilizados aos professores para trabalhar com e avaliar os impactos sociais e éticos da IA? ● Como a eficácia dos programas de educação crítica sobre tecnologia será avaliada e revisada? Existem métricas definidas para medir a implementação do modelo? Quais? Governança e Regulamentação ● Existe um comitê de ética específico para supervisionar o uso de IA? Quem são os membros e quais são suas qualificações? Existem atas de reuniões disponíveis ao público? ● Que tipos de documentação estão disponíveis sobre as avaliações de impacto ético realizadas? Existem relatórios de conformidade pública? ● Quais são os canais de feedback contínuo e denúncia para que curriculistas, educadores, alunos e pais possam relatar problemas? ● Existe um processo documentado para lidar com essas denúncias?

Fonte: Quadro criado pelo autor exclusivamente para este texto.

As respostas a essas perguntas deveriam ter sido minimamente detalhadas pela equipe e gestores da Secretaria de Educação do Estado de São Paulo (Seduc-SP), oferecendo clareza sobre os procedimentos técnicos e éticos na implementação da IA. Os gestores públicos deveriam, diante de suas funções e compromisso assumido com educação pública e com valores democráticos, ter minimamente demonstrado compromisso com transparência, inclusão e responsabilidade. Seguindo essas diretrizes, a Secretaria de Educação do Estado de São Paulo poderia liderar um exemplo de implementação de IA que não só melhora o desempenho educacional, mas também promove uma sociedade mais justa, equitativa e moralmente consciente. Ao adotar uma abordagem democrática e ética na implementação da IA na educação, podemos garantir que essa poderosa tecnologia seja utilizada de maneira responsável e benéfica para todos os envolvidos no processo educacional.

Referências

ABRALE, Análise crítica do material didático do estado de São Paulo, 2023.

Acemoglu, D.; Johnson, S. Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity. Public Affairs. Edição do Kindle, 2023.

Coeckelbergh, Mark. Why AI Undermines Democracy and What To Do About It. Polity Press. Edição do Kindle, 2024.

Knobel, M. and Kalman. Teacher Learning, Digital Technologies, and New Literacies. In: Knobel, M. and Kalman, J. New Literacies and Teacher Learning Professional Development and the Digital Turn, NY: Peter Lang, pp 1-20, 2016.

Notas