As democracias ocidentais são Estados constitucionais e os seus textos jurídicos básicos foram construídos para as pessoas, consagrando, como um dos valores básicos mais importantes, a dignidade da pessoa humana. As novas tecnologias acentuam o domínio da máquina e contribuem para a convergência da inteligência artificial e do big-data, que, aliados à conectividade, colocando na ordem do dia o problema da proteção dos direitos de cidadania. Adicionalmente, a internet parece ser uma área livre da soberania do Estado, e neste sentido o exercício da autoridade nacional sobre o ciberespaço é naturalmente limitado e contingente.
Complementarmente, os cidadãos devem percepcionar a complexidade da www, na qual correm algoritmos, protocolos e programas que facultam a realização de múltiplas atividades: enviar mensagens electrónicas, apresentar declarações de impostos, investigar bibliotecas virtuais, ouvir música, ver filmes, etc. Neste contexto, a digitalização é um problema social transversal, que coloca na agenda o problema da proteção dos direitos, detalhados no Direito Internacional, como direitos à liberdade de informação, de expressão e de privacidade, e proclamados como princípio geral, pelas Nações Unidas em 19/12/2013. Em 26 de Janeiro de 2022, a Comissão propôs, ao Parlamento Europeu e ao Conselho, uma declaração sobre os direitos e princípios digitais para todos os países da União Europeia. No projeto de declaração consta que os direitos e princípios que devem acompanhar as pessoas na sua vida quotidiana estão associados: à conectividade digital de alta velocidade e à construção de um ambiente digital seguro para os europeus. Estas preocupações ligam-se, segundo Harari, ao impacto da inteligência artificial e o seu controlo, dada a influência que esta tecnologia pode ter no pensamento e na vida das pessoas, quando é dominada por grupos ou governos mal-intencionados e sem escrúpulos. Com efeito, a monitorização imperceptível que os algoritmos podem ter no que pensamos ou dizemos, bem como nas bolhas de informação que eles geram, é um risco que está latente na nossa sociedade, face ao facto de a computação ser cada vez mais pervasiva e ubíqua. Os algoritmos acabam por saber que somos, antecipando, por isso, o conhecimento das intenções do utilizador ou do cliente, e, em simultâneo, fomentam mais interacções, ampliando a identidade do utilizador, que é descrita como o conjunto das características próprias e exclusivas através das quais se podem diferenciar as pessoas. Neste espírito, quanto mais profunda for a influência da algoritmização nos comportamentos de alguns, mais antecipáveis são as suas futuras intenções.
Pode suceder, inclusivamente, que os padrões de referência para a vida social do utilizador sejam desenhados para manipular o comportamento humano. Imagine-se, desta forma, a consequência deste tipo de inteligência artificial quando usada intencionalmente por grupos ou governo totalitários. Pense-se igualmente no que é suscetível de acontecer com a inteligência artificial aplicada em robots soldados, algoritmos aplicados aos sistemas de vigilância colectiva, em que todos os indivíduos, à boa maneira orwelliana, são monitorizados a todo o momento e em todas as geografias. Para Harari, não é a tecnologia que nos leva para o bom ou o mau caminho, mas sim as escolhas que fazemos sobre a sua utilização. Os problemas surgem quando 43%da população mundial, em 2019, não vivia em regimes políticos susceptíveis de ser categorizados como democráticos. Neste quadro, as tecnologias digitais encontram-se frequentemente ao serviço de regimes totalitários, que, graças aos algoritmos relacionais e generativos, antecipam tendências e conseguem perpetuar a ditadura no seu espaço geográfico. Cada metro quadrado de Pequim está coberto por câmaras de alta-definição que alimentam o sistema de reconhecimento facial mais avançado do mundo, sendo a inteligência artificial utilizada para processar, a nível central, uma enorme quantidade de dados. Um país assim ganha uma enorme vantagem em termos de investigação genética e médica, face às sociedades em que esses dados pertencem ao domínio privado. Mas ganharão os cidadãos em serem acríticos, ou não terem hábitos de mente ou não fazerem opções relativamente aos que decidem em seu nome? A máxima axiomática expressa na frase “é mais difícil governar do que ser governado”, ainda é aplicável na era digital? Ou será que a democracia é um mero rótulo? Ou uma fórmula de governo em vias de acentuada obsolescência?