Os direitos humanos das crianças e a IA
Isabella Henriques é advogada, doutora e mestre em Direitos Difusos e Coletivos pela PUC/SP. Diretora executiva do Instituto Alana, presidente da Comissão de Defesa dos Direitos da Criança e do Adolescente da OAB/SP e conselheira do Conselho Consultivo da Ouvidoria da Defensoria Pública do Estado de São Paulo. É cofundadora do Advocacy Hub. Global Leader for Young Children pelo World Forum Foundation e Líder executiva em desenvolvimento da primeira infância pelo Núcleo Ciência pela Infância. Autora de diversos artigos e obras sobre direitos de crianças e adolescentes, proteção de dados, IA e consumo.
Esta nota foi escrita em abril de 2024
É sabido que as novas tecnologias digitais e, em especial, a Inteligência Artificial (IA), tem alterado a vida das crianças (1) e as suas possibilidades futuras. Da mesma forma, é notório o conhecimento de que, se as crianças tiverem acesso e condições de aproveitar o ambiente digital ao máximo, poderão usufruir um universo de oportunidades (Comitê dos Direitos da Criança da Organização das Nações Unidas, 2021). Contudo, por outro lado, pesquisas em todo o mundo informam que, se as crianças não tiverem chances de beneficiarem-se das novas tecnologias digitais em seu melhor interesse, podem ter intensificadas situações de pobreza, desigualdade, deslocamento geográfico, isolamento e discriminação com base em classe, gênero e raça, entre outros marcadores. Com isso, crianças em situação de maior vulnerabilidade podem se tornar ainda mais suscetíveis a diversas formas de exploração, violências e ameaças ao seu bem-estar (Stoilova; Livingstone; Khazbak, 2021).
Desigualdades socioeconômicas, especialmente aquelas localizadas no Sul Global, como no caso do Brasil, têm sido apontadas como fatores preponderantes para a existência de maiores riscos e menores oportunidades para as crianças no ambiente digital e em relação às emergentes inovações da IA. Isso porque essas crianças enfrentam mais barreiras na fruição de seus direitos humanos e têm menos recursos disponíveis para a mediação e o suporte adequados quanto à utilização das tecnologias digitais (Trucco; Palma, 2020).
No Brasil, as crianças representam quase 1/3 da população do país (Fundação Abrinq, 2023). Fazem parte de um grupo social caracterizado por abarcar múltiplas infâncias e múltiplas adolescências, marcadas por intensas desigualdades sociais, econômicas, raciais, de gênero, diferenças culturais, etárias, entre outras. Ainda sobre o perfil populacional nacional, vale citar que mais de 50 milhões de pessoas no Brasil vivem abaixo da linha da pobreza, sendo uma proporção significativa de crianças, especialmente crianças negras. Ademais, entre a população adulta com 25 anos ou mais, quase metade tem pouca ou nenhuma educação formal, fator prejudicial a qualquer incentivo ou proposta de mediação parental junto a crianças oriundas de núcleos familiares em que estão esses adultos, muitos dos quais iletrados (IBGE Educa, 2023).
A respeito dos inúmeros riscos existentes no ambiente digital para crianças, a Organização para a Cooperação e Desenvolvimento Econômico (OCDE, 2021) e o Children Online Research and Evidence (CO:RE, 2021), em suas respectivas classificações, incluem riscos relacionados a contato, comportamento, conteúdo e exploração comercial. Além dos riscos à privacidade, saúde física e mental, e aqueles relacionados à discriminação e às desigualdades. A OCDE identifica, ainda, que permeiam essas categorias os riscos relacionados às tecnologias avançadas, como IA, IoT, análises preditivas e biometria; e os riscos à saúde e ao bem-estar.
Sobre tais riscos, a Professora Sonia Livingstone destaca que a violação à privacidade de dados, tanto comerciais quanto institucionais, tem o potencial de causar maiores danos em relação à privacidade interpessoal, principalmente na dimensão coletiva (Livingstone, 2020). Os riscos relacionados à privacidade de dados são significativos e envolvem intensa exploração econômica e comercialização resultantes da criação de perfis e uso massivo não regulamentado para tomada de decisões automatizadas. Práticas tais que podem violar os interesses e os direitos humanos das crianças, inclusive manipulando-as de forma a gerar efeitos diretos e colaterais quanto ao seu desenvolvimento, à liberdade de expressão, à desinformação, à associação e ao direito à proteção contra a exploração comercial.
A Professora afirma, com acerto, que o custo da privacidade de dados não pode ser o isolamento ou o não uso de tecnologias digitais. Diz que a solução para essa questão não se encontra apenas no âmbito individual, mas deve ser coletiva. Até porque os dados estão na base do desenvolvimento dos sistemas sociotécnicos das plataformas operadas por algoritmos sem intervenção humana.
Daí ser patente a necessidade de que instituições e empresas reformulem suas ofertas digitais para atender ao melhor interesse das crianças e que tais ofertas sejam efetivamente reguladas, em particular no Sul Global, onde as desigualdades acentuam os referidos riscos envolvidos. Notadamente, porque uma das atividades mais comuns realizadas por crianças em todo o mundo – e também no Sul Global – é o uso das mídias sociais por meio de plataformas de redes sociais que se valem de IA e decisões automatizadas. Plataformas que, na sua maioria, sequer são recomendadas para usuários com menos de 13 anos de idade em seus termos de uso, mas são, na prática, consumidas por crianças de todas as idades, que têm seus dados coletados, comercializados e utilizados para finalidades diversas, como, nos casos mais graves, até mesmo para a modulação comportamental, com repercussões relevantes e severas para toda a vida de cada criança.
A esse respeito, no caso brasileiro, as normas legais impõem um rígido dever de cuidado e proteção, também por parte das plataformas operadas por algoritmos de IA, em relação à proteção integral das crianças. O sistema constitucional de proteção da criança, no Brasil, está ancorado no paradigma da proteção integral e prioritária, que, por sua vez, baseia-se na concepção da criança como sujeito de direitos que vivencia uma peculiar fase do desenvolvimento humano, caracterizada por sua hipervulnerabilidade frente ao mundo adulto. É essa condição que demanda o reconhecimento de direitos especiais à criança, no sentido de que a sua dignidade seja efetivamente resguardada. Referido sistema é especial, pois, além de positivar direitos fundamentais exclusivos para a criança como, por exemplo, o direito ao respeito e à convivência familiar e comunitária – somados aos direitos fundamentais garantidos também aos adultos como, por exemplo, o direito à saúde (Piovesan; Pirotta, 2003) –, cria o dever de asseguramento prioritário dos direitos fundamentais da criança de maneira compartilhada entre sociedade, Estado e famílias (Machado, 2012), conforme o art. 227 da Constituição Federal.
Nesse sentido, a Professora Ana Frazão (Frazão, 2021) assevera que a legislação em vigor prevê que o dever de garantia da absoluta prioridade dos direitos fundamentais das crianças seja respeitado e que danos injustos a crianças, mesmo que resultantes de conteúdo de terceiros, sejam evitados, conforme um parâmetro de razoabilidade e o princípio da boa-fé objetiva. E mais, que o referido dever de cuidado deve estender-se não só à moderação de conteúdos, mas, principalmente, à arquitetura das plataformas, mesmo porque, no caso das crianças, os riscos a que estão expostas estão relacionados, em grande medida, ao seu design e à própria concepção dos seus modelos de negócio. Em linha com tal entendimento, diante do descumprimento desse dever de cuidado e proteção, defende que tais empresas sejam responsabilizadas por violações à dignidade humana de crianças (2).
A propósito da garantia da dignidade humana também no contexto dos sistemas sociotécnicos das plataformas digitais, importa rememorar a perspectiva histórica, de que os direitos humanos refletem um construído axiológico e consolidam espaços de luta pela dignidade humana (Piovesan, 2012). Não são nascidos todos de uma vez, nem de uma vez por todas, mas, gradualmente (Bobbio, 2004) e fazem parte do mesmo movimento histórico da democracia e da paz. Fábio Konder Comparato observa que é recente na história a ideia de se englobar todos os seres humanos em um mesmo grupo social detentor de uma igualdade essencial (Comparato, 2007).
Foi após o término da Segunda Guerra Mundial, quando a humanidade sinalizou ter compreendido o valor supremo da dignidade humana, que se promoveu, no plano internacional, a Declaração Universal de Direitos Humanos de 1948. Com uma concepção contemporânea de direitos humanos e uma gramática de direitos até então inédita, combinando direitos civis e políticos com direitos sociais, econômicos e culturais – de forma que a garantia dos primeiros seja condição para a observância dos últimos e vice-versa (Piovesan, 2012) –, a Declaração consubstanciou-se em um esforço de reconstrução dos direitos humanos como paradigma e referencial ético, a garantir o valor da pessoa humana no Direito.
É assim que o valor da dignidade humana, incorporado pela Declaração Universal, passa a constituir orientação e lastro ético, como valor fundante, para os demais instrumentos internacionais de proteção de direitos humanos, inclusive para a Convenção sobre os direitos da criança da ONU e seus respectivos comentários, como é o caso do Comentário Geral n. 25. Trata-se de uma ética orientada pela dignidade humana, que deve, inclusive, garantir o primordial direito humano a ter direitos (Arendt, 2012) para todas as pessoas, considerando-as com profundo respeito e, igualmente, merecedoras de consideração, na sua diversidade e pluralidade (Lafer, 1988).
A pessoa humana é insubstituível em sua individualidade, em seu próprio ser e em sua personalidade, ainda que também produto do meio social e que tenha como essência a contínua evolução e mesmo transformação – e aqui não se trata de dizer que chegando à idade adulta a criança encontrará a compleição, mas que a pessoa humana, ao longo de toda a sua vida, apresenta como característica singular não ser “suficiente” (Ortega y Gasset, 1983).
Em nível internacional, no que diz respeito às crianças, a dignidade humana é também o valor supremo. Pela proteção especial que a elas é garantida no âmbito da Convenção sobre os direitos da criança da ONU, seus direitos humanos, que têm a sua dignidade humana como valor fundamental, devem ser centrais e tratados em primeiro lugar, no seu melhor interesse.
No Brasil, a dignidade humana é basilar de todo o ordenamento jurídico, posto que, inédita e formalmente, foi elevada a princípio normativo fundamental da vigente Constituição Federal, nos termos do art. 1o, III, o qual “impõe-se como núcleo básico e informador do ordenamento jurídico brasileiro, como critério e parâmetro de valoração a orientar a interpretação e compreensão do sistema constitucional instaurado em 1988” (Piovesan, 2003). Ingo Wolfgang Sarlet defende que, por ser qualidade intrínseca da pessoa humana, a dignidade não é concedida pelo ordenamento jurídico, mas reconhecida e promovida, além de, como direito, dever ser respeitada e protegida. Assevera, ainda, que a dignidade humana, além de princípio constitucional fundamental, é valor jurídico fundamental do Estado democrático de direito, que possui caráter jurídico normativo e plena eficácia na ordem constitucional (Sarlet, 2006).
É diante desse contexto que deve ser interpretado o Comentário Geral n. 25 sobre os Direitos da Criança no Ambiente Digital. Atualmente, considerado o documento mais completo que trata dos direitos da criança no ambiente digital, é norma de referência a ser observada por Estados e empresas, porquanto detalha a questão no âmbito da Convenção sobre os Direitos da Criança da ONU. Ademais, o Comentário Geral n. 25 foi elaborado por um grupo de especialistas, divulgado pelo Comitê dos Direitos da Criança da ONU, e recebeu, por meio de consulta pública, inúmeras contribuições de diversos especialistas, pessoas e organizações, além de contribuições feitas pelas próprias crianças, em espaços de escuta que aconteceram em diversos países.
De acordo com a Convenção e o Comentário Geral n. 25, o melhor interesse deve ser o princípio orientador para a disponibilização no mercado de qualquer produto ou serviço consumido por crianças, independentemente de ser destinado ou não a elas. Isso se aplica particularmente a produtos ou serviços usados em larga escala. Uma vez que as crianças tenham acesso a tais produtos ou serviços, eles devem garantir seus direitos, mitigar riscos e promover oportunidades no ambiente digital.
Entre outras previsões, o Comentário Geral n. 25 sobre os Direitos da Criança no Ambiente Digital prevê o seguinte:
- O parágrafo 37 diz que os Estados Partes têm o dever de proteger as crianças de violações de seus direitos por empresas, incluindo o direito de serem protegidas contra todas as formas de violência no ambiente digital. Ressalta que, embora as empresas possam não estar diretamente envolvidas na perpetração de atos nocivos, elas podem causar ou contribuir para violações do direito das crianças a viverem livres de violência, inclusive por meio do design no funcionamento de seus serviços digitais. Nesse sentido, recomenda que os Estados Partes implementem, monitorem e façam cumprir as leis e os regulamentos destinados a prevenir, investigar, julgar e reparar violações do direito das crianças à proteção contra a violência em relação ao ambiente digital.
- O parágrafo 38 aponta que os Estados Partes devem exigir que o setor empresarial realize a devida diligência sobre os direitos da criança, em particular para realizar avaliações de impacto quanto a tais direitos e divulgá-las publicamente, com atenção especial aos graves riscos do ambiente digital sobre as crianças. Reforça o dever de os Estados Partes tomarem as medidas apropriadas para prevenir, monitorar, investigar e punir os abusos dos direitos da criança também por parte das empresas.
- O parágrafo 39 indica que, além de desenvolver legislação e políticas, os Estados Partes devem exigir que todas as empresas que afetem os direitos das crianças em relação ao ambiente digital implementem estruturas regulatórias, códigos da indústria e termos de serviços que sigam os mais altos padrões de ética, privacidade e segurança em relação ao design, engenharia, desenvolvimento, operação, distribuição e comercialização de seus produtos e serviços. Isso inclui empresas que visam crianças, têm crianças como usuários finais ou afetam crianças de outra forma. Recomenda que os Estados Partes exijam que essas empresas mantenham altos padrões de transparência e responsabilidade, incentivando-as a tomar medidas para inovar no melhor interesse da criança. Diz, também, que os Estados Partes devem exigir das empresas o fornecimento de explicações adequadas à idade das crianças, ou a mães, pais e cuidadores de crianças muito pequenas, sobre seus termos de serviço.
- O parágrafo 42 recomenda aos Estados Partes que proíbam, por lei, o perfilamento ou a publicidade direcionada para crianças de qualquer idade para fins comerciais com base em um registro digital de suas características reais ou inferidas, incluindo dados grupais ou coletivos, publicidade direcionada por associação ou perfis de afinidade. Também recomenda a proibição das práticas que dependam de neuromarketing, análise emocional, publicidade imersiva e publicidade em ambientes de realidade virtual e aumentada para promover produtos, aplicações e serviços, quando envolverem direta ou indiretamente crianças.
É certo que a Convenção e o Comentário Geral n. 25, entre outras normas existentes em relação aos direitos das crianças, são fundamentais para o avanço da regulação no ambiente digital relacionada à presença desse grupo social, hipervulnerável. Em completa sintonia com a legislação pátria, ambos os documentos recomendam que os Estados Partes considerem, prioritariamente, o melhor interesse da criança, como já é o caso brasileiro.
Garantir que todas as crianças possam usufruir, plenamente, o ambiente digital estando protegidas e com seus direitos respeitados é, indubitavelmente, condição essencial para a garantia de um ambiente digital harmonioso para todas as pessoas. Por isso, garantir um ambiente digital ótimo para as crianças, advindo também de uma IA responsável, deve ser a finalidade primordial, primeira e fundamental (Henriques, 2023).
__________________
Notas
(1) Para o presente artigo, assim consideradas as pessoas de 0 a 18 anos, na definição da Convenção sobre os Direitos da Criança da ONU, no art. 1º. Disponível em: https://www.ohchr.org/en/instruments-mechanisms/instruments/convention-rights-child (Acesso em: 29.11.2023).
(2) A propósito da imperiosa necessidade de responsabilização, vale citar trecho do State of the Union discursado pelo presidente estadunidense Joe Biden: ´Devemos finalmente responsabilizar as empresas de mídia social pelo experimento que estão executando em nossos filhos para obter lucro. É hora de aprovar uma legislação bipartidária para impedir que as Big Techs coletem dados pessoais de crianças e adolescentes online, proibir a publicidade direcionada a crianças e impor limites mais rígidos aos dados pessoais que essas empresas coletam de todos nós.’ (tradução livre). Disponível em: https://www.whitehouse.gov/briefing-room/statements-releases/2023/02/07/fact-sheet-in-state-of-the-union-president-biden-to-outline-vision-to-advance-progress-on-unity-agenda-in-year-ahead/ (Acesso em: 29.11.2023).
Referências
Arendt, H. (2012). Origens do totalitarismo: Antissemitismo, imperialismo, totalitarismo. 12a Reimpressão. Tradução Roberto Raposo. São Paulo: Companhia das Letras.
Bobbio, N. (2004). A era dos direitos. Tradução de Carlos Nelson Coutinho. Rio de Janeiro: Elsevier.
Comitê dos Direitos da Criança da Organização das Nações Unidas (ONU). (2021). Comentário Geral n. 25 sobre os direitos das crianças em relação ao ambiente digital. Genebra: ONU. Tradução livre. Disponível em:https://www.ohchr.org/EN/HRBodies/CRC/Pages/GCChildrensRightsRelationDigitalEnvironment.aspx
Comparato, F. K. (2007). A afirmação histórica dos direitos humanos. V Edição. São Paulo: Saraiva.
Organização das Nações Unidas (ONU). (1989). Convenção sobre os Direitos da Criança da ONU. Disponível em: https://www.ohchr.org/en/instruments-mechanisms/instruments/convention-rights-child
Fundação Abrinq. (2023). Cenário da Infância e Adolescência no Brasil 2023. Disponível em: https://observatoriocrianca.org.br/system/library_items/files/000/000/035/original/cenario-da-infancia-e-adolescencia-no-brasil-2023.pdf.pdf?1678125969
Frazão, A. Parecer ‘Dever geral de cuidado das plataformas diante de crianças e adolescentes’. Disponível em: https://criancaeconsumo.org.br/biblioteca/dever-geral-de-cuidado-das-plataformas-diante-de-criancas-e-adolescentes/
Henriques, I. (2023). Direitos fundamentais da criança no ambiente digital – O dever de garantia da absoluta prioridade. São Paulo: Thomson Reuters Revista dos Tribunais.
IBGE. (2023). Censo 2023. Disponível em: https://agenciadenoticias.ibge.gov.br/agencia-noticias/2012-agencia-de-noticias/noticias/35687-em-2021-pobreza-tem-aumento-recorde-e-atinge-62-5-milhoes-de-pessoas-maior-nivel-desde-2012
IBGE Educa. (2022). Conheça o Brasil. Disponível em: https://educa.ibge.gov.br/jovens/conheca-o-brasil/populacao/18317-educacao.html#:~:text=No%20Brasil%2C%2053%2C2%25,%2C2%25%20no%20mesmo%20ano
Lafer, C. (1988). A reconstrução dos direitos humanos: Um diálogo com o pensamento de Hannah Arendt. São Paulo: Companhia das Letras.
Livingstone, S. (2020) “It’s None of Their Business!” Children’s Understanding of Privacy in the Platform Society. Disponível em: https://freedomreport.5rightsfoundation.com/its-none-of-their-business-childrens-understanding-of-privacy-in-the-platform-society
London School of Economics and Political Science. (2024) EU Kids Online: Researching European children´s online opportunities, risks and safety. https://www.lse.ac.uk/media-and-communications/research/research-projects/eu-kids-online
Machado, M. T. (2012). Direito da infância e juventude. In: NUNES JUNIOR, Vidal Serrano. Manual de direitos difusos. São Paulo: Editora Verbatim.
Organization for Economic Cooperation and Development (OECD). (2021). Children in the digital environment: Revised typology of risks. OECD Digital Economy Papers. Disponível em: https://www.oecd-ilibrary.org/docserver/9b8f222e-en.pdf?expires=1618513364&id=id&accname=guest&checksum=E6796617419295BD802BBCACD47CC1E1
Ortega y Gasset, J. (1983). Sobre la razón histórica. Madri: Revista de occidente en alianza editorial. Apud Comparato, F. K. (2007). A afirmação histórica dos direitos humanos. V Edição. São Paulo: Saraiva.
Piovesan, F.; Pirotta, W. R. B. (2003). Os direitos humanos das crianças e dos adolescentes no direito internacional e no direito interno. In: PIOVESAN, Flávia. Temas de direitos humanos. São Paulo: Max Limonad.
Piovesan, F. (2012). Direitos humanos. In: NUNES JUNIOR, Vidal Serrano. Manual de direitos difusos. São Paulo: Editora Verbatim.
Piovesan, F. (2003). Temas de direitos humanos. São Paulo: Max Limonad.
Sarlet, I. W. (2006). Dignidade da pessoa humana e direitos fundamentais na Constituição Federal de 1988. Quarta edição. Porto Alegre: Livraria do Advogado.
Stoilova, M.; Livingstone, S.; Khazbak, R. (2021). Investigating risks and opportunities for children in a digital world: A rapid review of the evidence on children´s Internet use and outcomes. Innocenti Discussion Paper 2020-03. UNICEF Office of Research – Innocenti, Florence. Disponível em: https://www.unicef-irc.org/publications/pdf/Investigating-Risks-and-Opportunities-for-Children-in-a-Digital-World.pdf
Trucco, D.; Palma, A. (editoras). (2020). Infancia y adolescencia en la era digital: Un informe comparativo de los estudios de Kids Online del Brasil, Chile, Costa Rica y el Uruguay. Santiago: Comissão Econômica para América Latina e Caribe (Cepal) das Nações Unidas.
(links acessados entre nov/2023 e mar/2024)