Manuel Gonçalves Barbosa^[1]Instituto de Educação da Universidade do Minho. ORCID: http://orcid.org/0000-0002-8728-6667. E-mail: mbarbosa@ie.uminho.pt.

Resumo:

Este artigo desafia os cidadãos das democracias a confrontarem-se com o crescimento da algocracia, ou governação baseada em algoritmos, tanto no setor dos serviços públicos como no setor das plataformas sociais, apresentando uma análise dos seus riscos para a democracia, sem esquecer as oportunidades que cria de efetiva melhoria dos sistemas democráticos. À luz dessa análise, o artigo justifica a necessidade de educação escolar a fim de envolver os nativos digitais, enquanto parte interessada, na discussão que poderá levar à institucionalização de uma algocracia cidadã, isto é, uma algocracia ao serviço da democracia e dos direitos dos cidadãos. Por fim, especifica-se a traços largos o que isso implica em termos de capacitação no quadro de uma reformulação da educação para a democracia em aulas de cidadania, abrangendo sobretudo as faixas etárias mais avançadas no percurso escolar obrigatório.

Palavras-chave: Algocracia; Democracia; Educação; Jovens; Escolaridade Obrigatória.

Abstract:

This article challenges the citizens of democracies to confront the growth of algocracy, or algorithm-based governance, both in the public services sector and on social platforms, presenting an analysis of its risks for democracy, without forgetting the opportunities it creates for effectively improving democratic systems. In light of this analysis, the article justifies the need for school education in order to involve digital natives, as stakeholders, in the discussion that could lead to the institutionalization of a citizen’s algocracy, that is, an algocracy at the service of democracy and citizens’ rights. Finally, it is specified in broad strokes what this implies in terms of training within the framework of a reformulation of education for democracy in citizenship classes, covering above all the older age groups in the compulsory school course.

Keywords: Algocracy; Democracy; Education; Young people; Compulsory Schooling.

Resumen:

Este artículo desafía a los ciudadanos de las democracias a enfrentar el crecimiento de la algocracia, o gobernanza basada en algoritmos, tanto en el sector de los servicios públicos como en el sector de las plataformas sociales, presentando un análisis de sus riesgos para la democracia, sin olvidar las oportunidades que crea para la mejora efectiva de los sistemas democráticos. A la luz de este análisis, el artículo justifica la necesidad de la educación escolar para involucrar a los nativos digitales, como partes interesadas, en la discusión que podría conducir a la institucionalización de una algocracia ciudadana, es decir, una algocracia al servicio de la democracia y de los derechos ciudadanos. Por último, se especifica a grandes rasgos lo que esto implica en términos de capacitación en el marco de una reformulación de la educación para la democracia en las clases de ciudadanía, abarcando sobre todo a los grupos de mayor edad de la enseñanza obligatoria.

Palabras clave: Algocracia; Democracia; Educación; Jóvenes; Escolaridad Obligatoria.

1. Introdução

Sob a designação de “algocracia”, e desde há alguns anos a esta parte, um fenómeno relativamente ubíquo e opaco suscita curiosidade, atenção e preocupação: a utilização, por atores estatais e não-estatais, de algoritmos informáticos para “governar” plataformas tecnológicas que fornecem serviços e estruturam o campo de ações possíveis dos seus utilizadores. Da esfera pública à esfera privada, das agências governamentais às plataformas de redes sociais, a algocracia, enquanto «sistema de governação no qual os algoritmos codificados por computador estruturam, restringem, incentivam, empurram, manipulam ou encorajam diferentes tipos de comportamento humano» (Danaher, 2022, p. 257), vai-se impondo nas nossas vidas, coproduzindo-as, ao mesmo tempo que influencia, nas sociedades mais avançadas em «práticas algocráticas» (Vicente, 2023), o funcionamento da democracia. 

Essa «nova forma de governação» (Bersini, 2023), ora utilizada para administrar serviços públicos em áreas como a educação, a saúde, a assistência social, a justiça ou a segurança, ora disseminada em plataformas de redes digitais, como as redes sociais, é tecnicamente sustentada por algoritmos de aprendizagem automática (machine learning), por inteligência artificial cada vez mais sofisticada e por grandes volumes de dados (big data). Em sociedades digitalmente hiperconectadas e crescentemente complexas, essa modalidade foucaultiana de governação (Foucault, 1994) será certamente benéfica em muitos aspetos, quer do lado do indivíduo quer do lado da sociedade, mas também tem os seus custos, podendo originar, no limite mais extremo, uma sociedade de vigilância e controlo permanente dos cidadãos, atentando contra o «direito ao santuário» (Zuboff, 2020), ou contra a esfera da vida privada, e criar as condições para uma «democracia automatizada» (Innerarity, 2024) onde o direito à participação na tomada de decisões públicas é simplesmente confiscado à cidadania.

Se é verdade que a algocracia, como detalharemos mais adiante, pode representar um risco para a democracia, fragilizando-a, ou mesmo comprometendo-a, também é certo que já não podemos viver sem ela, seja na gestão das coisas públicas, dos assuntos comuns, seja na condução das nossas vidas, cada vez mais dependentes de sistemas algocráticos baseados em algoritmos informáticos. Assim sendo, cabe perguntar se está ao nosso alcance uma forma de algocracia cujos benefícios suplantem eventuais prejuízos e se a educação, não obstante as suas limitações (Freire & Shor, 1987), pode ajudar nesse sentido, dando impulso (nudging) a uma “algocracia cidadã” ao serviço da democracia e sob controlo dos cidadãos, investindo, desde logo nas escolas, e junto das pessoas jovens, nas capacidades que os cidadãos das democracias precisam para defender esse tipo de algocracia. O argumento que apresentamos neste artigo, metodologicamente alicerçado em análises interpretativas de recursos bibliográficos recentes, é que a algocracia cidadã, embora difícil de conquistar nas circunstâncias presentes, é uma possibilidade real e que a educação, nomeadamente a educação para a democracia ativa e participativa, é manifestamente necessária para que isso aconteça, não só em termos de conhecimentos ou de capacitação epistémica, mas também em termos de capacitação política.

A estrutura organizativa do artigo contempla três secções. Na primeira secção faz-se uma caracterização do tempo em que vivemos, um tempo de algocracia, e dos sistemas correspondentes, oscilando entre a gestão de bens comuns e a governação de redes sociais digitais. Na segunda secção será feito um levantamento dos principais riscos da algocracia para a democracia, e bem assim para as existências individuais, ao mesmo tempo que se identificam oportunidades de melhoria dos regimes democráticos. Por fim, e já na terceira secção, aborda-se a necessária reconfiguração da educação para a democracia em contexto escolar a fim de envolver os nativos digitais, particularmente as pessoas jovens, na defesa de uma algocracia cidadã, respeitadora dos seus direitos e simultaneamente benéfica para a sociedade.

2. Tempos de algocracia: emergência de novos sistemas de governação

A infraestrutura digital das sociedades tecnologicamente avançadas, nomeadamente em termos de sistemas algorítmicos, de big data, machine learning e inteligência artificial, abre um novo tempo ou uma nova era na conceção da governação, seja a nível institucional ou governamental, como efetivamente já acontece na condução de múltiplos aspetos da vida pública, seja a nível das corporações ou das empresas que, no ciberespaço, disponibilizam serviços e moldam ambientes de comunicação digital nas chamadas redes sociais. A governação, no sentido foucaultiano de estruturar um campo de ações possíveis ou eventuais (Foucault, 1994), capaz de orientar, dirigir, delimitar, circunscrever, incitar ou encorajar este ou aquele comportamento, é agora assessorada por um novo tipo de sistemas: os sistemas algocráticos. São sistemas onde pontificam algoritmos codificados por computador que tanto complementam como podem substituir o papel dos seres humanos na tomada de decisões relativas à gestão de plataformas tecnológicas, à administração de bens públicos e à condução de processos governamentais da mais diversa índole, a nível local e central.

A esse «novo regime de governação» (Bersini, 2023), diverso nas suas formas de manifestação e, desde logo, de apropriação, inclusive por sistemas políticos democráticos, pode-se chamar “algocracia”, retomando uma designação conceptualizada por Annesh Annesh (2009) no âmbito de uma investigação sobre a organização global do trabalho na área da programação informática e, mais recentemente, por autores que analisam as práticas algocráticas tanto no setor público (Danaher, 2022; Bersini, 2023) como no setor privado, nomeadamente nas «plataformas sociais» (Grimonpont, 2022) ou redes sociais. A essa luz, o termo algocracia não é aqui utilizado para descrever um ou vários sistemas em que computadores ou agentes artificiais assumem o controlo absoluto das decisões governamentais, embora isso possa ocorrer em plataformas sociais quando está ausente a supervisão humana, assídua e contínua, dos sistemas gestores dessas redes, pelo menos em algumas das suas funcionalidades mais automatizadas por sistemas algorítmicos. Esse termo, entendido como sistema de governação que acompanha estruturas administrativas estatais e arquiteturas de redes sociais, não tem necessariamente conotações pejorativas, como quer alguma literatura a esse respeito (Magos, 2022). As conotações, como mostraremos em várias ocasiões e, especialmente, na próxima secção, podem ser negativas e positivas, favoráveis num sentido e desfavoráveis noutro, tudo dependendo da supervisão humana e da orientação que se der, desde a fase de configuração inicial, aos sistemas algocráticos.

Os algoritmos, verdadeiros «instrumentos de escolha, classificação, seriação, hierarquização, recomendação, inclusão e exclusão» (Vicente, 2023, p. 52-53), são a textura informática desses sistemas, por vezes o segredo mais bem guardado por razões comerciais. Os algoritmos são incontornáveis para compreender os sistemas algocráticos, mas só em parte, pois existem condições igualmente importantes a ter em conta, nomeadamente a dataficação (datafication), o big data e a datavigilância (dataveillance). Antes de mais, a dataficação, a qual, de acordo com Mayer-Schoenberger e Cukier (2013), pode ser entendida como a transformação da ação social humana em dados digitais quantificados, permitindo amplo rastreamento e análises preditivas. Como dizem os próprios autores, «dataficar um fenómeno é colocá-lo numa forma quantificada para que possa ser catalogado e analisado» (2013, p. 78). Desse modo, processos e ações humanas até então “invisíveis” ou incomensuráveis tornam-se monitorizáveis e analisáveis por algoritmos mais ou menos sofisticados, correntemente de forma automática, e acoplados a sistemas de inteligência artificial em constante desenvolvimento tecnológico.

Uma outra condição possibilitadora da algocracia, ou dos «sistemas de governação algocrática» (Danaher, 2016), é o denominado big data, quer dizer, o processamento e o mega armazenamento de grandes quantidades de dados. O big data permite agregar grandes massas de dados provenientes, entre outras fontes, das plataformas de redes sociais, da Internet das Coisas (IoT) e das próprias plataformas de serviços estatais, ao mesmo tempo que possibilita estabelecer correlações entre esses dados e fazer previsões. Esse complexo processo tecnológico revela-se importante para apoiar a tomada de decisões e a sua automatização, parcial ou totalmente, pois a partir da análise de grandes volumes de dados é possível identificar interesses, tendências e padrões de comportamento, assim como otimizar procedimentos na prestação de serviços públicos e na gestão de plataformas tecnológicas, nomeadamente as que moldam, com fins lucrativos, e em função de lógicas concorrenciais cada vez mais aguerridas, ambientes de comunicação digital entre milhões de seres humanos.

Refira-se, por fim, nesse mapeamento das condições essenciais à algocracia, a datavigilância, ou seja, a vigilância baseada em dados, que é o que permite, explorando grandes volumes de informação dataficada (big data), rastrear comportamentos e criar «perfis psicométricos» (Han, 2022), os quais estão na base da personalização de conteúdos nas redes sociais.

As sociedades que já entraram na era da algocracia, independentemente de se situarem do lado autocrático ou democrático da governação, já reúnem todas as condições referidas e fazem-nas valer quer no plano institucional ou governamental, realizando a «smartificação» (Engin & Treleaven, 2018) dos serviços públicos, inclusive, a nível local, com a gestão das denominadas cidades inteligentes (smart cities), quer no plano mais estritamente empresarial ou corporativo, usando e tirando o máximo proveito, nas grandes plataformas de redes sociais digitais, da «curadoria algorítmica de conteúdos» (Missika & Verdier, 2022). 

Correspondendo à incorporação de tecnologias inteligentes, como inteligência artificial e análises de dados,  na prestação de serviços aos cidadãos em áreas como a educação, saúde segurança, justiça, ou assistência social, de modo a automatizar esses serviços e a torná-los mais personalizados e eficientes, a «smartificação» é uma dimensão da algocracia a que as autoridades estatais recorrem cada vez mais, não só porque facilita enormemente a exploração de grandes volumes de dados, o seu cruzamento e a sua utilização na resposta a solicitações, como permite, nessa e em outras tarefas, evidentes ganhos de eficiência (Danaher, 2016; Engin & Treleaven, 2018), precisamente numa altura em que, sem automatização algorítmica inteligente, não parece possível governar eficientemente a complexidade social emergente:

Governar é, em grande parte, uma ação algorítmica e sê-lo-á ainda mais, já que uma boa parte das decisões governamentais é realizada por sistemas automatizados. Não parece possível gerir a complexidade das sociedades atuais sem recorrer a procedimentos desse tipo, graças aos quais se processa uma grande quantidade de informação e se automatizam tarefas que, de outro modo, não seriam realizáveis nem se fariam com tanta eficácia (Innerarity, 2024, p. 17).

A smartificação da governação em domínios tão sensíveis como a assistência social, o policiamento preditivo ou mesmo a produção de sentenças pelo sistema judiciário, não é absolutamente pacífica nem está isenta de críticas (Vicente, 2023), especialmente quando escasseia a transparência de processos e não se dão as devidas justificações das decisões algorítmicas. Ainda assim, e uma vez salvaguardadas certas garantias dos cidadãos, pelo menos nos regimes democráticos, a smartificação da governação estatal não parece tão preocupante quanto às implicações pessoais, sociais e políticas da curadoria algorítmica de conteúdos que se processa, como prática algocrática, em «redes sociais prototípicas» (Haidt, 2024), nomeadamente o Facebook, o Instagram, a rede X, o TikTok ou o Snapchat. Esse processo de curadoria desemboca, ipsis verbis, na efetiva personalização dos feeds de notícias, consistindo, basicamente, na seleção e na hierarquização automática de conteúdos informativos, considerados do máximo interesse do utilizador, através dos assim chamados, e amplamente comentados, «algoritmos de recomendação» (Grimonpont, 2022).

A única função verdadeiramente relevante desses algoritmos, se tivermos em conta as práticas algocráticas no mercado aberto e livre das redes sociais, é maximizar o envolvimento (engagement) nessas redes, conhecer exaustivamente os utilizadores e endereçar-lhes anúncios publicitários de bens e serviços geradores de enormes dividendos financeiros. Na prática, esses algoritmos de aprendizagem automática, com base no perfil psicométrico de cada utilizador, são os fazedores de um amplo sistema de recomendações, principalmente de conteúdos informativos, não propriamente para alargar horizontes ou preparar para debates genuinamente plurais numa ágora digital em torno de problemas comuns, mas para explorar a atenção, criar adição (Jarry-Lacombe et al., 2022) e suscitar reações emocionais, desencadeando viralidade nas redes sociais. Nesse sentido, o referido sistema seleciona e dá prioridade nos feeds a conteúdos bombásticos, sensacionalistas e fraturantes, tendencialmente polarizadores de opiniões e sempre reforçando as convicções e as representações do utilizador ao longo de um processo que pode terminar na formação de «bolhas informacionais» (Grimonpont, 2022) e em «câmaras de eco ou caixas de ressonância» (Jarry-Lacombe et al., 2022), manifestamente prejudiciais para o indivíduo e a sociedade, como veremos adiante.

A generalização das práticas algocráticas, estendendo-se do setor público ao setor privado, da curadoria nas redes sociais à smartificação de serviços estatais, acontece um pouco por todo o lado, da China aos Estados Unidos, dos regimes autoritários aos regimes democráticos. Se do lado dos sistemas autoritários, como no caso chinês, o silêncio é a palavra de ordem sobre tudo o que tenha a ver com algocracia e «estado de vigilância» (Chin & Lin, 2023), nos sistemas democráticos há lugar para perguntar, e averiguar, se a algocracia, mais além de possíveis riscos, também cria oportunidades de efetiva melhoria da democracia.

3. Algocracia e democracia: riscos e oportunidades

A situação atual, considerando apenas a smartificação de serviços públicos essenciais e a curadoria algorítmica de conteúdos nas redes sociais, é já a do recurso desinibido a práticas algocráticas de governação cujas tecnologias, em permanente evolução, expansão e sofisticação, tanto podem criar riscos para a democracia, ameaçando a sua infraestrutura de princípios e valores, como podem dar lugar, em termos inovadores, a oportunidades de melhoria efetiva das democracias realmente existentes numa altura em que se acentua a recessão democrática ao longo e ao largo do planeta (Freedom House, 2025). O mapeamento dessa ambivalência afigura-se necessário, quanto mais não seja para averiguar, em momento posterior, se há forma de minimizar os riscos e de aproveitar ao máximo as oportunidades.

Relativamente a riscos eventuais, observando tendências em curso, o que sobressai é a possibilidade de caminharmos para uma “democracia panótica”, ou uma «democracia de vigilância» (García-Marzá & Calvo, 2022), que «profana a nossa intimidade, desossa literalmente a nossa alma e saqueia o refúgio da nossa vida privada» (Ramonet, 2015, p. 22). Os dados para que isso aconteça, sem contar com filtragens clandestinas do tráfego na internet, derivam de várias fontes informacionais: antes de mais, das interações dos cidadãos com as plataformas das instituições públicas, cada vez mais vorazes de dados digitais pessoais, pretensamente para prestar melhores serviços nas áreas da justiça, da educação, da saúde ou da assistência social; depois, dos sistemas de vigilância que, nas ruas e nas praças das áreas urbanas, espiam o comportamento dos transeuntes e identificam, com requintada precisão, os seus rostos e as suas vozes através de câmaras CCTV de reconhecimento facial e vocal.

As democracias, aproximando-se perigosamente dos «autoritarismos digitais» (Jarry-Lacombe et al., 2022), adotam cada vez mais essa forma panótica de tudo vigiar e monitorizar, o que poderá levar, a breve trecho, a um «Estado-espião digital» (Han, 2016) onde já não haverá lugar para a privacidade, ou para o «direito ao santuário» (Zuboff, 2020), a qual é fundamental para salvaguardar, em democracia, certos valores e certos princípios, além de nos defender dos abusos de poder:

A privacidade é a maneira que temos de colocar vendas nos olhos do sistema para que nos trate com imparcialidade e justiça […]. É a forma de proteger os indivíduos, as instituições e as sociedades das pressões e abusos externos. É o modo de reservar um espaço para nós mesmos em que possamos nos relaxar, nos relacionar com outros, explorar novas ideias e formar a nossa própria opinião, tudo isso em liberdade (Véliz, 2021, p. 236).

Uma democracia que, com os seus sistemas algocráticos sofisticados, escrutina sem entraves as nossas vidas, muitas vezes sob um véu de secretismo securitário, ora no âmbito do policiamento de avenidas, ruas e praças, ora por ocasião das interações digitais com instituições estatais, está a criar condições para que um governo de turno, menos escrupuloso no cumprimento de princípios democráticos, utilize o conhecimento aprofundado dos cidadãos para interferir sub-repticiamente na comunicação política e na eventual manipulação da opinião pública. Em tal situação, a democracia caminharia a passos largos para a sua «desconsolidação» (Foa & Mounk, 2017), isto é, para a sua desfiguração e desintegração.

As avenidas que levam a uma democracia panótica, focalizada na vigilância massiva dos cidadãos, não são o único risco criado pela algocracia. Um segundo risco, não menos perigoso para a democracia, é a possibilidade de se desembocar numa “democracia pós-política”, ou seja, num sistema em que a política, «entendida como a expressão da vontade geral de tomar decisões, na contradição e na deliberação, tendo em vista responder da melhor maneira ao interesse comum» (Sadin, 2018, p. 27), dá lugar, progressivamente, a um «governo algorítmico» (Engin & Treleaven, 2018). Ou seja, um governo que restringe, e depois erradica, «as oportunidades de participação humana na tomada de decisões públicas» (Danaher, 2016, p. 246). Assim, promove-se o silenciamento da voz dos cidadãos e, consequentemente, a «erosão de um governo guiado pela discussão cívica», como bem sublinha Vicente (2023, p. 56), de forma tão rigorosa quanto clara, na sua recente apreciação do fenómeno algocrático.

Essa tendência, desenhando um cenário distópico para a política democrática, daria o poder soberano a sistemas algocráticos de tomada de decisão e criaria, a prazo, uma «democracia automatizada» (Innerarity, 2024), inclusive em funções sociais críticas que requerem, por envolverem direitos humanos fundamentais e valores discutíveis ou controversos, um questionamento cidadão dos objetivos e da hierarquia de prioridades. Uma automatização das decisões políticas em larga escala retiraria os cidadãos da equação democrática; seria uma grave ameaça à sua agência política e correria o risco, por falta de escrutínio ou curadoria, de algoritmizar desigualdades, preconceitos, discriminações e injustiças sistémicas.

Um terceiro e último risco, considerando a curadoria algorítmica de conteúdos informativos nas redes sociais e, portanto, a gestão algocrática dos feeds de notícias dos utilizadores, é a promoção, surpreendente e paradoxal, de uma “democracia tendencialmente anti-dialógica”, pobre em interações comunicativas entre pontos de vista diferentes, uma vez que essa gestão, explorando o enviesamento de confirmação para captar a atenção, apenas fornece o que os utilizadores querem ver e ouvir nessas plataformas. Assim, «ao apresentarem aos utilizadores apenas as notícias que estão alinhadas com a sua visão, as redes sociais contribuem para visões enviesadas e parciais das questões, dificultando o diálogo e criando visões erradas e extremistas» (Oliveira, 2023, p. 101). O verdadeiro risco ou perigo dessa prática algocrática, manipulando a informação que chega aos utilizadores das plataformas sociais, é o de empobrecer a sua dieta informativa e de impedir, a prazo, uma verdadeira conversa sobre questões de interesse comum, à espera de deliberação política democrática.

A degradação da «conversa democrática» (Harari, 2024), não sendo da inteira responsabilidade das redes sociais (Missika & Verdier, 2022), pois estão envolvidos outros fatores, também lhes diz respeito, não apenas porque dão visibilidade máxima a discursos incendiários, divisivos e polarizadores, quantas vezes irrelevantes para a formação da opinião e da vontade democrática, como incentivam, através de recomendações, a reclusão dos utilizadores em «câmaras de eco fragmentadas e autorreferenciais» (Habermas, 2023), fechando-se dogmaticamente umas sobre as outras. Num tal cenário, já não se dá por adquirido que «a democracia pressupõe o consentimento a uma pluralidade de opiniões» (Lefort, 2024, p. 10), e que o debate contraditório, com razões ou argumentos em busca de consenso, é tudo menos o hard core da democracia deliberativa (Habermas, 2023).

Como se vê, a eventualidade de impactos negativos da algocracia na democracia é para levar a sério, porém, isso não quer dizer, seguindo outras linhas evolutivas, que os sistemas algocráticos não possam introduzir melhorias nos sistemas democráticos. Desde logo, aumentando os ganhos de eficiência, justiça e transparência na gestão de bens públicos e na prestação de serviços aos cidadãos em áreas tão diversas e fundamentais quanto o sistema judiciário, os cuidados sanitários, o sistema educativo ou a segurança social, garantindo, prudentemente, «que a automatização no setor público deve ser equilibrada com intervenção humana especializada onde e quando for necessário» (Engin & Treleaven, 2018, p. 458).

Os sistemas algocráticos, em segundo lugar, podem ser um importante «fator de democratização» (Bersini, 2023) do processo de geração, implementação e avaliação de políticas públicas, ora realizando a monitorização online da opinião pública quanto a preferências e a opiniões, ora organizando o envolvimento cívico dos cidadãos em discussões e deliberações através de plataformas estatais devidamente credenciadas para o efeito, dando um outro sentido ou significado à «plataformização da democracia» (Innerarity, 2024), isto é,  à realização da conversa democrática em plataformas digitais controladas pela cidadania.

Esses sistemas, finalmente, também podem revitalizar o espaço público político, hoje ameaçado de desintegração pela curadoria algorítmica das redes sociais, ou seja, pelos algoritmos de personalização das notícias, promovendo uma informação de utilidade pública, pluralista em pontos de vista, rica em temas socialmente relevantes e sem essa tendência de criar «bolhas informacionais» (Grimonpont, 2022) isolacionistas, autoconfirmativas e irredutíveis nas mesmas opiniões. Sem informação de qualidade dificilmente haverá conversa democrática de qualidade e, portanto, espaço público político de qualidade.

O desafio, considerando a boa utilização da algocracia nesses casos ilustrativos, é aproveitar ao máximo as suas “virtudes algorítmicas”, quer na gestão e na administração de serviços imprescindíveis, quer na formação da vontade democrática dos cidadãos, ou ainda, e não menos importante, no desenvolvimento de políticas públicas. O que está em causa, por conseguinte, é uma algocracia ao serviço da democracia, decisivamente voltada para os cidadãos: uma “algocracia cidadã” que a todos convoca para a sua institucionalização, inclusive a educação para a democracia, mesmo necessitando de reconfiguração.

4. Reconfiguração da educação para a democracia em tempos de algocracia

A educação para a democracia, especialmente das gerações mais jovens e, em particular, das faixas etárias mais avançadas na escolarização obrigatória, corre o risco de se tornar irrelevante, para não dizer anacrónica, se não ajudar a instituir, face ao avanço dos sistemas algocráticos nos sistemas democráticos, uma algocracia cidadã, ou uma «algo-democracia», como prefere Grimonpont (2022), capaz de dirigir, controlar e colocar esse novo sistema de governação tanto ao serviço dos cidadãos como da própria democracia. A adesão a esse propósito, correspondendo a uma reconfiguração programática da educação para a democracia, nomeadamente nas aulas de cidadania, implica colocar o foco pedagógico-didático no desenvolvimento de duas importantes capacidades: por um lado, a capacidade de análise da algocracia como fenómeno de governação baseada em algoritmos (capacitação epistémica) e, por outro, a capacidade de apreciação política de questões suscitadas pelos sistemas algocráticos em contextos democráticos (capacitação política), visando preparar, em última instância, a defesa da algocracia cidadã no espaço público das atuais democracias.

O foco da capacitação epistémica, considerando a sua dimensão estritamente cognitiva, é a aquisição de conhecimentos básicos sobre a algocracia, ora investigando, de maneira colaborativa, e com os recursos da internet, a base algorítmica dos sistemas algocráticos, designadamente a noção informática de algoritmo e o discurso a seu respeito, ora analisando, seguindo a mesma estratégia, o modelo de negócios que, nas redes sociais digitais, define as diretrizes da curadoria algorítmica dos feeds de notícias e, portanto, as regras dos algoritmos que estruturam, secretamente, e nos bastidores de empresas altamente lucrativas, essas “janelas informativas” do «novo ecossistema mediático» (Missika & Verdier, 2022). 

A primeira porta de entrada no universo algocrático, pode-se dizer de maneira muito didática, é a noção de algoritmo e a sua representação no senso comum digital. Importa referir, em primeiro lugar, que o algoritmo, essa unidade discreta dos sistemas decisionais algocráticos, «é um conjunto de regras – ou procedimentos informáticos – para resolver um problema ou executar uma tarefa» (Thumlert et al., 2022, p. 20). Mais concretamente, «é um conjunto metódico de passos que pode ser usado para fazer cálculos, solucionar problemas e tomar decisões» (Harari, 2017, p.  100), como, por exemplo, ordenar, filtrar, analisar, classificar, recomendar e distribuir conteúdos nas plataformas sociais, ou mais amplamente nas plataformas estatais e governamentais que fornecem serviços digitais aos cidadãos em áreas como a justiça, a segurança social, a educação, a saúde ou a gestão de uma cidade inteligente.

Em segundo lugar, convém sublinhar, para orientar o trabalho de investigação, que «um algoritmo corresponde à materialização de valores e de práticas humanas» (Vicente, 2023, p. 11), sendo indissociável de uma «ecologia social» (Beer, 2017): incorpora visões do mundo social; os seus resultados são influenciados por interesses e agendas; e é produto de forças sociais tanto na conceção ou no desenho, como na implementação e em eventuais reformulações.

Essa imersão na ecologia social dos algoritmos permite expandir a investigação dos estudantes para o terreno das representações sociais acerca desses elementos estruturantes dos sistemas algocráticos, pelo menos as mais disseminadas no senso comum digital: que os algoritmos, nas suas linhas de código, e enquanto instrumentos de escolha, classificação, seriação, hierarquização, recomendação, inclusão ou exclusão, são objetivos e axiologicamente neutros. Essa retórica da objetividade e, sobretudo, da neutralidade, ignora que os algoritmos «codificam os valores dos seus criadores e do ecossistema subjacente de implementação e desenvolvimento» (Innerarity, 2024, p. 10), podendo, pois, reproduzir preconceitos e discriminações contra certas classes, raças, géneros ou idades, já para não falar, como se verá adiante, da gestão tendenciosa dos feeds de notícias nas plataformas sociais.

A desconstrução dessas visões “assépticas” dos algoritmos, ou desses pedaços de código que dão corpo e espessura a sistemas algocráticos de governação, é tanto mais importante quanto atualmente «os algoritmos são protegidos por representações de algoritmos como tecnologia livre de valor, imune ao enviesamento humano e epistemicamente superior» (Alnemr, 2024, p. 208), servindo propósitos no mínimo pouco esclarecedores da opinião pública democrática. Igualmente significativo, nesse seguimento, é prestar atenção, no labor investigativo dos alunos, à ambivalência da algocracia, pois «os estudantes devem conhecer os riscos e oportunidades que acompanham a tecnologia» (Unesco, 2024, p. 160), designadamente em democracia, quer na esfera dos serviços e das políticas públicas, quer no âmbito da gestão dos fluxos de informação, tal como se processam nas redes de interações sociais digitais.

O processamento algocrático desses fluxos, em rigor, só se compreende escrutinando o modelo de negócio das redes sociais digitais: «um modelo económico totalmente estruturado em torno da captação e da retenção da atenção» (Grimonpont, 2022, p. 124). Assim, incorporando ou vertendo esse modelo em código informático, e uma vez transformados em «curadores dos nossos feeds de notícias» (Harari, 2024, p. 287), os algoritmos tudo fazem para «maximizar o tempo passado nas plataformas de modo a maximizar a extração de dados e o valor do utilizador para os anunciantes» (Haidt, 2024, p. 199). A instrução dada aos algoritmos, nesse modelo de «publicidade comportamental» (Missika & Verdier, 2022) microdirecionada, é produzir envolvimento custe o que custar, inclusive “desprezando” a verdade dos factos e o interesse coletivo quando está em causa informação de natureza social e política. A desinformação não causa prurido aos algoritmos de recomendação dos feeds de notícias, como aliás não causa a polarização subsequente à divulgação prioritária de conteúdos extremistas, agressivos, irados e indignados, por vezes carregados de ódio e maledicência.

A governação algocrática dos feeds de notícias, pelas suas implicações negativas na qualidade da informação consumida pelos utilizadores de redes sociais e, mais além, pelo contributo que dá à formação de «câmaras de eco pessoais» (Kissinger et al., 2021) ao apresentar conteúdos que reforçam as convicções de cada um e, portanto, o seu modo de ver o mundo, merece análise cuidada por parte dos alunos, quanto mais não seja porque são eles, enquanto cidadãos em formação, que mais consomem informação nessas plataformas (Habermas, 2023).

O desígnio da algocracia cidadã, articulando-se com a reconfiguração da educação para a democracia em contexto escolar, tem certamente a ganhar com as análises referidas, porém, não se esgota em momentos analíticos, por mais importantes que sejam para a capacitação epistémica dos alunos. Também inclui, como já aludido no início desta secção, o desenvolvimento da capacidade de apreciação política de questões suscitadas pelo uso de sistemas algocráticos em contextos democráticos tecnologicamente avançados.

Seguindo uma estratégia em que as análises dão lugar aos debates, ou a investigação à discussão, várias questões podem ser levantadas em contexto de sala de aula. Antes de mais, uma questão bastante básica: a algocracia, não obstante o esquecimento ou a deliberada ocultação, é um assunto essencialmente político (Suleyman & Bhaskar, 2024), não apenas porque interfere com a governação de bens públicos, ou de inegável interesse público, mas também porque a sua regulação democrática, hoje sob assédio das grandes plataformas tecnológicas, exige a assunção de posições políticas mais ou menos restritivas a esse respeito.

Uma segunda questão, que também parece básica, pelo menos em democracia, é a discussão acerca da participação dos cidadãos nas decisões relativas à automatização de serviços públicos e, portanto, à utilização de sistemas algocráticos na prestação desses serviços, e bem assim na definição dos objetivos e das prioridades a incorporar nas linhas de código dos algoritmos desses sistemas, pois num regime democrático, e num quadro de controlo da algocracia, a «fixação dos preceitos de decisão deve pertencer à cidadania» (Vicente, 2023, p. 56).

Um outro tema para debate é a questão da transparência dos algoritmos (Missika & Verdier, 2022), quer no capítulo das regras ou dos princípios, quer relativamente a efeitos ou a resultados previsíveis, nomeadamente quando os sistemas algocráticos se apoiam em algoritmos de aprendizagem automática e profunda, ou seja, algoritmos que, por serem autopoiéticos, são mais opacos e imprevisíveis nas suas ações. Seja como for, os cidadãos têm direito a essa transparência, e não só nas plataformas de serviços estatais, o que parece uma evidência, mas também nas plataformas de redes sociais e, em particular, na curadoria algorítmica de notícias, pois, se quiserem «agir conforme os valores democráticos, as plataformas devem cumprir com obrigações estritas de transparência, comunicando o funcionamento dos algoritmos que classificam as informações» (Innerarity, 2024, p. 12-13).

O direito à explicação das decisões algorítmicas, apesar de já estar consagrado na legislação europeia, designadamente no Regulamento Geral de Proteção de Dados, é também um tema que se pode debater, dada a crescente sofisticação dos processos que levam a essas decisões, assim como a importância desse direito para eventuais contestações ou reclamações por parte de cidadãos descontentes com as decisões das administrações, nomeadamente públicas.

Essa última questão abre para uma outra, a do tratamento dos cidadãos em função de inestimáveis valores democráticos, como a inclusão, a equidade e a não-discriminação, pois os algoritmos, se não forem vigiados, podem ser excludentes, injustos e preconceituosos para com certas franjas da população nas suas interações com entidades públicas que usam algoritmos para tomar decisões frequentemente importantes para as suas vidas.

Por fim, e só para elencar as mais visíveis, surge a questão da supervisão dos sistemas algocráticos, integrando, num todo coerente, a observação, a avaliação e a orientação desses sistemas para garantir, na medida do possível, o cumprimento dos objetivos fixados nos algoritmos. A este respeito, não desconsiderando o investimento em «literacia tecnológica» (Oliveira, 2023) que se afigura premente em tempos de crescimento da algocracia no seio das democracias, pode-se discutir o envolvimento dos cidadãos em equipas multidisciplinares de auditorias aos algoritmos, quer relativamente a serviços públicos essenciais, e sensíveis do ponto de vista social, como a segurança pública, a justiça penal ou a atribuição de subsídios, quer a propósito das redes sociais digitais, «especialmente sobre a natureza e o tipo de informação que é promovida ou silenciada por meio de algoritmos» (Jungherr, 2023, p. 7). 

Acrescentando uma outra dimensão à reconfiguração da educação para a democracia em tempos de algocracia, a área da capacitação política promove o espírito crítico dos alunos e torna-os seguramente mais aptos para se envolverem, com voz assertiva, no processo de discussão e, como se espera, de institucionalização de uma algocracia cidadã em democracia.

5. Conclusão

A educação e, por maioria de razão, a educação para a democracia, é um processo aberto, dinâmico e experimental, suscetível a reconfigurações ou a remodelações determinadas por circunstâncias desafiantes, como parece ser o caso (enquanto forma de governação baseada em algoritmos) a proliferação da algocracia e dos seus sistemas nas democracias tecnologicamente mais avançadas. Revendo-se nessa matriz educacional e, portanto, nas suas características, este artigo analisou a emergência dos sistemas algocráticos nos sistemas democráticos e mostrou como são ambivalentes, comportando riscos e oportunidades para os cidadãos e para as democracias, especialmente os mais expostos à modelação algocrática de serviços públicos e de ambientes de comunicação digital nas plataformas de redes sociais.

Nessa sequência, e tendo como público de eleição a população escolar mais avançada na escolaridade obrigatória, o artigo sinalizou a necessidade de a preparar para a discussão e a institucionalização de uma algocracia cidadã, ou sob controlo dos cidadãos, não apenas na definição de objetivos e prioridades dessa modalidade de governação, mas também na sua supervisão e regulação, esta última necessitando de ser mais ambiciosa hoje em dia face à crescente sofisticação da algocracia e às pressões anti-regulatórias do ecossistema tecnológico.

Essa sinalização de uma nova orientação para a educação dos nativos digitais da era da algocracia requer, como se viu na última secção do artigo, uma reconfiguração da educação para a democracia em ambiente escolar e uma aposta, experimental, na promoção de uma dupla capacitação: epistémica e política. Se a primeira é um investimento na aprendizagem de conhecimentos básicos sobre algocracia, a segunda é uma aposta no desenvolvimento da capacidade de apreciação política de questões suscitadas pelo uso de sistemas algocráticos em contextos democráticos. 

Reunindo essas capacitações na mesma démarche pedagógica, é possível que a população juvenil das nossas escolas fique melhor preparada para ter voz ativa, e tão somente voz ativa, no processo de discussão pública que poderá levar a uma algocracia cidadã, servindo os cidadãos e a própria democracia. Querer ir mais além, nomeadamente em sessões de educação para a cidadania democrática nas escolas, é manifestamente exagerado, pois devemos «estar criticamente conscientes dos limites da educação» (Freire & Shor, 1987: 82), seja na transformação social em geral, seja na institucionalização de uma nova algocracia, como advogamos no presente artigo.

Seja como for, não é tempo perdido envolver as pessoas jovens nesse tema. Afinal, enquanto utilizadores de sistemas algocráticos que condicionam crescentemente as suas vidas, também são parte interessada nessa matéria. Saiba a escola desempenhar o seu papel aproveitando, de outra forma, e contemplando a problemática da algocracia, os espaços curriculares onde legalmente se podem enxertar novos temas de educação para a cidadania, como é manifestamente o caso de Cidadania e Desenvolvimento ao longo da escolaridade obrigatória.

Referências

• Alnemr, N. (2024). Democratic self‑government and the algocratic shortcut: the democratic harms in algorithmic governance of society. Contemporary Political Theory, 23, 205–227. https://doi.org/10.1057/s41296-023-00656-y
• Aneesh, A. (2009). Global labor: algocratic modes of organization. Sociological Theory, 27(4), 347-370. https://doi.org/10.1111/j.1467-9558.2009.01352.x
• Beer, D. (2017). The social power of algorithms. Information, Communication & Society, 20 (1), 1-13. https://doi.org/10.1080/1369118X.2016.1216147
• Bersini, H. (2023). Algocratie. Allons-nous donner le pouvoir aux algorithmes? Louvain-la-Neuve: De Boeck Supérieur.
• Chin, J. & Lin, L. (2023). Estado de vigilância. Lisboa: Relógio d’Água.
• Danaher, J. (2016). The threat of algocracy: reality, resistance and accommodation. 
• Philosophy & Technology, 29, 245–268. https://doi.org/10.1007/s13347-015-0211-1
• Danaher, J. (2022). Freedom in an age of algocracy. In S. Vallor (Ed.). The Oxford Handbook of Philosophy of Technology (pp. 250-272). New York: Oxford University Press.
• Engin, Z. & Treleaven, P. (2018). Algorithmic government: automating public services and supporting civil servants in using data science technologies. The Computer Journal, 62 (3), 448-460. https://doi.org/10.1093/comjnl/bxy082
• Foa, R. & Mounk, Y. (2017). The signs of deconsolidation, Journal of Democracy, 28 (1), 5-15. https://dx.doi.org/10.1353/jod.2017.0000
• Foucault, M. (1994). Le sujet et le pouvoir. Dits et Écrits. T. III. Paris: Gallimard.
• Freedom House (2025). Freedom in the world 2025: The uphill battle to safeguard rights. The Uphill Battle to Safeguard Rights | Freedom House
• Freire, P. & Shor, I. (1987). Medo e ousadia: o cotidiano do professor. Rio de Janeiro: Paz e Terra.
• García-Marzá, D., & Calvo, P. (2022). Democracia algorítmica: ¿un nuevo cambio estructural de la opinión pública? Isegoría, (67), e17. https://doi.org/10.3989/isegoria.2022.67.17
• Grimonpont, A. (2022). Algocratie. Vivre libre à l’heure des algorithmes. Arles: Actes Sud.
• Habermas, J. (2023). Espace public et démocratie déliberative. Un tournant. Paris: Gallimard.
• Haidt, J. (2024). A geração ansiosa. Como a grande reconfiguração da infância está a provocar uma epidemia de doença mental. Lisboa: D. Quixote.
• Han, B.-C. (2016). No enxame. Reflexões sobre o digital. Lisboa: Relógio D’Água.
• Han, B.-C. (2022). Infocracia. Lisboa: Relógio D’Água.
• Harari, Y. (2017). Homo deus: história breve do amanhã. Lisboa: Elsinore.
• Harari, Y. (2024). Nexus. História breve das redes de informação. Lisboa: Elsinore.
• Innerarity, D. (2024). Inteligencia artificial y democracia. Unesco: Paris/Montevideo.
• Jarry-Lacombe, B., Bergère, J.-M., Euvé, F. & Tardieu, H. (2022). Pour un numérique au service du bien commun. Paris: Odile Jacob.
• Jungherr, A. (2023). Artificial intelligence and democracy: A conceptual framework. Social Media + Society, 9(3). https://doi.org/10.1177/20563051231186353
• Kissinger, H., Schmidt, E. & Huttenlocher, D. (2021). A era da inteligência artificial. Lisboa: D. Quixote.
• Lefort, C. (2024). Qu’est-ce que la démocratie? Philosophie Magazine (Cahier Central), 185, 6-15.
• Magos, V. (2022). Résister à l’algocratie. Rester humain dans nos métiers et dans nos vies. Bruxelles: Fabert.
• Mayer-Schoenberger, V. & Cukier, K. (2013). Big data: a revolution that will transform how we live, work, and thin. Boston-New York: Houghton Mifflin Harcourt. 
• Missika, J.-L. & Verdier, H. (2022). Le business de la haine. Internet, la démocratie et les reseaux sociaux. Paris: Calmann-Lévy.
• Oliveira, A. (2023). Ciência, tecnologia e sociedade. Lisboa: Guerra e Paz.
• Ramonet, I. (2015). El imperio de la vigilancia. Madrid: Clave Intelectual.
• Sadin, É. (2018). L’intelligence artificielle ou l’enjeu du siècle.. ParisClube do Autor.: L’Échappée.
• Suleyman, M. & Bhaskar, M. (2024). A próxima vaga. Lisboa:
• Thumlert, K., McBride, M., Tomin, B. Nolan, J., Lotherington, H., & Boreland, T. (2022). Algorithmic literacies: identifying educational models and heuristics for engaging the challenge of algorithmic culture. Digital Culture & Education, 14(4), 19–35. 
• https://www.digitalcultureandeducation.com/volume-14-4
• Unesco (2024). Informe de seguimiento de la educación en el mundo 2023: Tecnología en la educación: ¿Una herramienta en los términos de quién? Paris: UNESCO. https://doi.org/10.54676/NEDS2300
• Véliz, C. (2021). Datos, vigilancia y libertad en la era digital. Barcelona: Debate.
• Vicente, P. (2023). Os algoritmos e nós. Lisboa: Fundação Francisco Manuel dos Santos.
• Zuboff, S. (2020). A era do capitalismo da vigilância. Lisboa: Relógio d’Água.