A relação entre a inteligência artificial e a democracia não é linear nem unidirecional, mas representa antes um entrelaçamento de forças contraditórias que simultaneamente reforçam e minam os fundamentos do processo democrático.
A IA alterou profundamente o espaço público no qual se desenrola o debate democrático. Esta mudança vai muito para além da simples questão da desinformação. Estamos a assistir à fragmentação da experiência de informação colectiva que, historicamente, tem sido um pré-requisito fundamental para as democracias modernas.
Quando cidadãos diferentes vivem em realidades de informação radicalmente diferentes, estruturadas por algoritmos de recomendação, perde-se a base comum necessária para o diálogo democrático.
Paradoxalmente, ao mesmo tempo que a IA multiplicou as fontes de informação disponíveis, também reduziu a capacidade das sociedades democráticas de chegar a um consenso sobre o que constitui um "facto". Esta erosão epistémica coloca um desafio mais profundo e insidioso do que a simples difusão de notícias falsas.
As democracias estão confrontadas com um dilema fundamental: as decisões sobre a IA exigem conhecimentos técnicos extremamente específicos, mas confiar essas decisões exclusivamente a especialistas significa retirá-las do processo democrático. Existe assim uma tensão não resolvida entre o princípio democrático (decisões tomadas por e para os cidadãos) e a necessidade de conhecimentos especializados.
Esta tensão é agravada pelo facto de os sistemas de IA cada vez mais complexos serem opacos não só para os cidadãos comuns, mas por vezes para os próprios especialistas que os desenvolvem. Como pode o controlo democrático funcionar quando os instrumentos que se pretende governar excedem a compreensão humana?
O micro-direcionamento político através da IA tornou-se cada vez mais sofisticado nas campanhas actuais. Os sistemas de IA analisam vastos conjuntos de dados sobre os eleitores para criar mensagens políticas altamente personalizadas. Apenas segurança
A investigação mostra que os anúncios políticos gerados por IA e direcionados para a personalidade são significativamente mais persuasivos do que os conteúdos genéricos. PubMedNih
A escala e a eficiência da IA permitem que as campanhas gerem conteúdos personalizados para milhões de eleitores em simultâneo, tornando o microtargeting muito mais viável e económico do que nunca. Mercado políticoCSET
Estudos recentes mostram que as ferramentas de campanha melhoradas por IA podem identificar vulnerabilidades psicológicas nos eleitores e criar mensagens que exploram essas caraterísticas. OUPAcademicTechInformed
As preocupações democráticas são substanciais:
Os sistemas de votação e as infra-estruturas eleitorais também são influenciados pela IA, tanto de forma positiva como negativa:
A IA oferece oportunidades e desafios à participação democrática:
A IA não está simplesmente a alterar os modos de debate democrático, mas a reestruturar profundamente as relações de poder nas sociedades. O controlo das infra-estruturas de IA representa agora uma forma de poder comparável, se não superior, à tradicionalmente exercida pelas instituições democráticas, como os parlamentos.
Assistimos a uma deslocação do poder de decisão das instituições públicas sujeitas ao controlo democrático para entidades privadas que operam segundo lógicas diferentes. Esta migração de poder ocorre muitas vezes de forma invisível, através da delegação progressiva de decisões a sistemas automatizados que funcionam segundo parâmetros nem sempre transparentes ou democraticamente estabelecidos.
A IA está a transformar o próprio conceito de participação democrática. Por um lado, oferece ferramentas para formas mais diretas e participativas de democracia, por outro, introduz novas barreiras cognitivas e tecnológicas ao acesso. Neste processo, o valor da opinião individual está também a ser redefinido: num contexto de crescente personalização algorítmica, como distinguir entre preferências autenticamente pessoais e preferências induzidas por sistemas de recomendação?
Esta ambivalência também se manifesta nos sistemas de deliberação assistidos por IA: podem tornar mais acessíveis processos de decisão complexos, mas também correm o risco de simplificar excessivamente questões que exigiriam uma reflexão pública mais aprofundada.
As instituições democráticas tradicionais, concebidas numa era pré-digital, têm dificuldade em adaptar-se à velocidade imposta pela inovação tecnológica. Esta assincronia temporal entre a rápida evolução da IA e o ritmo mais lento dos processos democráticos cria um vazio de governação que corre o risco de ser preenchido por mecanismos de decisão não democráticos.
O desafio não consiste apenas em regular a IA através das instituições existentes, mas em repensar essas instituições de modo a torná-las adequadas a uma era em que a inteligência artificial está a tornar-se cada vez mais central nos processos sociais, económicos e políticos.
Para enfrentar estes desafios, é necessário desenvolver uma nova conceção de cidadania democrática que incorpore uma consciência do papel da IA. Isto implica ultrapassar tanto o tecno-otimismo ingénuo, que vê a IA apenas como uma oportunidade de melhoria democrática, como o pessimismo, que a vê apenas como uma ameaça.
Em vez disso, requer o desenvolvimento de uma literacia cívica que inclua a capacidade de avaliar criticamente a influência dos algoritmos, de participar conscientemente em debates sobre questões tecnológicas complexas e de exigir transparência e responsabilização aos que desenvolvem e implementam sistemas de IA com impacto social significativo.
Em última análise, a relação entre a IA e a democracia não é predeterminada pela tecnologia em si, mas dependerá da nossa capacidade colectiva de imaginar e construir instituições, normas e práticas que permitam que o desenvolvimento tecnológico seja orientado para o reforço e não para a erosão dos valores democráticos fundamentais.
A IA pode reforçar a participação democrática tornando a informação governamental mais acessível, permitindo a participação multilingue, analisando o contributo do público em grande escala e personalizando as experiências de participação cívica.Eventos do IeeeOECD Por exemplo, os serviços de tradução melhorados pela IA podem permitir que as minorias linguísticas participem mais plenamente nos processos democráticos, enquanto as ferramentas de análise de dados podem ajudar os governos a identificar e a resolver as desigualdades na prestação de serviços públicos. Nextcity + 2
Os riscos mais significativos incluem: a proliferação de desinformação persuasiva e de "deepfakes" que minam os factos partilhados; a manipulação através de conteúdos políticos micro-direcionados; preconceitos algorítmicos que excluem certos grupos dos processos democráticos; e vulnerabilidades de segurança nas infra-estruturas eleitorais. Sage Journals + 5 A investigação mostra que estes riscos não são meramente teóricos - os estudos documentam o poder persuasivo dos conteúdos políticos gerados por IA e adaptados aos perfis psicológicos individuais. PubMed + 2
As abordagens regulamentares eficazes incluem: requisitos de divulgação obrigatórios para conteúdos políticos gerados por IA; limites aos tipos de dados pessoais que podem ser utilizados para micro-direcionamento político; mecanismos de supervisão independentes para monitorizar os sistemas de IA das campanhas; e iniciativas de educação pública para aumentar a sensibilização dos eleitores para as técnicas de persuasão melhoradas por IA. PBS + 4 A Lei da IA da UE constitui um exemplo de um quadro regulamentar baseado no risco que aborda especificamente a utilização da IA nos processos democráticos. Europa + 2
Os cidadãos devem ter oportunidades significativas de moldar a governação da IA através de mecanismos participativos, como assembleias de cidadãos, consultas públicas e processos contínuos de envolvimento das partes interessadas. A investigação da Brookings mostra que o envolvimento de diversas partes interessadas ao longo do ciclo de vida da IA conduz a sistemas mais fiáveis que reflectem melhor os valores sociais. Adalovelaceinstitute + 13 Modelos bem sucedidos, como a Carta de Dados de Camden, demonstram como a participação dos cidadãos pode estabelecer quadros éticos para a utilização da IA nos serviços públicos. OCDE
As estratégias de proteção incluem: a implementação de medidas robustas de cibersegurança, como a autenticação multifactor; a formação de funcionários eleitorais para reconhecerem tentativas de phishing melhoradas por IA; o desenvolvimento de sistemas para identificar e contrariar a desinformação gerada por IA sobre a votação; a Sophos News que estabelece processos de verificação para comunicações eleitorais oficiais; e a criação de sistemas redundantes para infra-estruturas eleitorais críticas. ABC News + 2 A Agência de Cibersegurança e Segurança das Infra-estruturas (CISA) fornece diretrizes específicas para os funcionários eleitorais sobre a mitigação dos riscos da IA. CisaCisa
A IA pode transformar as relações entre os cidadãos e a administração pública, permitindo serviços públicos mais personalizados, criando novos canais de participação cívica, automatizando certas funções da administração pública e alterando potencialmente a dinâmica do poder nos sistemas democráticos. EffOECD A direção desta transformação depende em grande medida das escolhas de governação, quer a IA seja implementada de forma a aumentar a responsabilidade democrática, quer concentre o poder em sistemas técnicos com supervisão limitada. ScienceDirect + 2
A cooperação internacional é essencial para estabelecer normas partilhadas, evitar a fragmentação regulamentar, abordar os impactos transfronteiriços da IA e promover o alinhamento em torno dos valores democráticos no desenvolvimento da IA. OCDE + 2 Os Princípios de IA da OCDE representam um modelo de coordenação internacional, proporcionando um quadro comum adotado por 47 jurisdições a nível mundial, ao mesmo tempo que permitem flexibilidade para a implementação nacional. OCDEBrookings
Garantir que a IA beneficia a democracia exige: quadros de governação proactivos baseados em valores; requisitos significativos de transparência e responsabilização; abordagens participativas ao desenvolvimento e regulamentação da IA; investimento na literacia digital; proteção dos direitos fundamentais nas aplicações de IA; e mecanismos para responsabilizar os sistemas de IA e os seus criadores. Eff + 4
Os dados sugerem que as abordagens de governação antecipatória são mais eficazes do que a regulamentação reactiva. OecdBrookings
A IA apresenta oportunidades e desafios significativos para os sistemas democráticos mundiais. A nossa análise exaustiva sugere várias conclusões fundamentais:
.svg)
.svg)
.svg)
.jpeg)
.jpeg)