A relação entre a inteligência artificial e a democracia não é linear nem unidirecional, mas representa antes um entrelaçamento de forças contraditórias que simultaneamente reforçam e minam os fundamentos do processo democrático.

‍

A transformação da ágora pública

A IA alterou profundamente o espaço público no qual se desenrola o debate democrático. Esta mudança vai muito para além da simples questão da desinformação. Estamos a assistir à fragmentação da experiência de informação colectiva que, historicamente, tem sido um pré-requisito fundamental para as democracias modernas.

‍

Quando cidadãos diferentes vivem em realidades de informação radicalmente diferentes, estruturadas por algoritmos de recomendação, perde-se a base comum necessária para o diálogo democrático.

‍

Paradoxalmente, ao mesmo tempo que a IA multiplicou as fontes de informação disponíveis, também reduziu a capacidade das sociedades democráticas de chegar a um consenso sobre o que constitui um "facto". Esta erosão epistémica coloca um desafio mais profundo e insidioso do que a simples difusão de notícias falsas.

‍

O dilema do poder e da competência

As democracias estão confrontadas com um dilema fundamental: as decisões sobre a IA exigem conhecimentos técnicos extremamente específicos, mas confiar essas decisões exclusivamente a especialistas significa retirá-las do processo democrático. Existe assim uma tensão não resolvida entre o princípio democrático (decisões tomadas por e para os cidadãos) e a necessidade de conhecimentos especializados.

‍

Esta tensão é agravada pelo facto de os sistemas de IA cada vez mais complexos serem opacos não só para os cidadãos comuns, mas por vezes para os próprios especialistas que os desenvolvem. Como pode o controlo democrático funcionar quando os instrumentos que se pretende governar excedem a compreensão humana?

‍

Micro-direcionamento político e processos eleitorais

O micro-direcionamento político através da IA tornou-se cada vez mais sofisticado nas campanhas actuais. Os sistemas de IA analisam vastos conjuntos de dados sobre os eleitores para criar mensagens políticas altamente personalizadas. Apenas segurança

‍

A investigação mostra que os anúncios políticos gerados por IA e direcionados para a personalidade são significativamente mais persuasivos do que os conteúdos genéricos. PubMedNih

‍

A escala e a eficiência da IA permitem que as campanhas gerem conteúdos personalizados para milhões de eleitores em simultâneo, tornando o microtargeting muito mais viável e económico do que nunca. Mercado políticoCSET

‍

Estudos recentes mostram que as ferramentas de campanha melhoradas por IA podem identificar vulnerabilidades psicológicas nos eleitores e criar mensagens que exploram essas caraterísticas. OUPAcademicTechInformed

‍

As preocupações democráticas são substanciais:

• O potencial de manipulação é demonstrado pela investigação que indica como o microtargeting pode explorar vulnerabilidades psicológicas OUPAcademicTechInformed
• A IA pode contribuir para a polarização, expondo os eleitores principalmente a conteúdos que se alinham com as suas opiniões actuais Lse
• Normalmente, os eleitores não sabem que estão a receber conteúdos políticos personalizados SFGateTechInformed
• Campanhas bem financiadas podem utilizar ferramentas de IA mais sofisticadas, criando potencialmente uma influência política desigual SFGateBrennancenter

Os sistemas de votação e as infra-estruturas eleitorais também são influenciados pela IA, tanto de forma positiva como negativa:

• A IA pode melhorar a segurança das eleições através da deteção de anomalias e da monitorização das infra-estruturas para detetar potenciais interferências R StreetInstituteBrookings
• A administração eleitoral pode ser mais eficiente graças à IA que simplifica processos como a verificação do registo de eleitores CisaBrookings
• No entanto, a IA também introduz riscos, como ataques de phishing mais sofisticados, deepfakes de desinformação eleitoral e campanhas de desinformação automatizadas em grande escala Sophos News + 3

‍

Participação democrática e empenhamento cívico

A IA oferece oportunidades e desafios à participação democrática:

Impactos positivos

• Melhoria do acesso à informação cívica: as ferramentas de IA podem simplificar informações governamentais complexas IeeeBrookings
• Melhor prestação de serviços públicos: os sistemas baseados em IA podem analisar dados cívicos para ajudar os governos a responder mais eficazmente às necessidades dos cidadãos Nextcity + 2
• Ferramentas participativas alargadas: plataformas como a Pol.is utilizam a IA para analisar os contributos do público em grande escala ECNLBrookings
• Reduzir as barreiras à participação: os serviços de tradução da IA podem permitir a participação cívica multilingue ECNLBrookings

Impactos negativos

• Manipulação da informação: os conteúdos gerados pela IA podem ser utilizados para espalhar desinformação BrennancenterBrookings
• Amplificação dos preconceitos existentes: os sistemas de IA treinados com dados tendenciosos podem perpetuar e amplificar as desigualdades na participação cívica BrennancenterBrookings
• Diminuição da intervenção humana: a dependência excessiva da tomada de decisões algorítmicas na governação pode diminuir a capacidade de avaliação e a responsabilidade humanas
• Exacerbação do fosso digital: a desigualdade de acesso às tecnologias cívicas melhoradas pela IA pode agravar as lacunas de participação existentes Aiworldtoday + 2

‍

A reestruturação das relações de poder

A IA não está simplesmente a alterar os modos de debate democrático, mas a reestruturar profundamente as relações de poder nas sociedades. O controlo das infra-estruturas de IA representa agora uma forma de poder comparável, se não superior, à tradicionalmente exercida pelas instituições democráticas, como os parlamentos.

‍

Assistimos a uma deslocação do poder de decisão das instituições públicas sujeitas ao controlo democrático para entidades privadas que operam segundo lógicas diferentes. Esta migração de poder ocorre muitas vezes de forma invisível, através da delegação progressiva de decisões a sistemas automatizados que funcionam segundo parâmetros nem sempre transparentes ou democraticamente estabelecidos.

‍

A redefinição da participação democrática

A IA está a transformar o próprio conceito de participação democrática. Por um lado, oferece ferramentas para formas mais diretas e participativas de democracia, por outro, introduz novas barreiras cognitivas e tecnológicas ao acesso. Neste processo, o valor da opinião individual está também a ser redefinido: num contexto de crescente personalização algorítmica, como distinguir entre preferências autenticamente pessoais e preferências induzidas por sistemas de recomendação?

‍

Esta ambivalência também se manifesta nos sistemas de deliberação assistidos por IA: podem tornar mais acessíveis processos de decisão complexos, mas também correm o risco de simplificar excessivamente questões que exigiriam uma reflexão pública mais aprofundada.

‍

A metamorfose das instituições democráticas

As instituições democráticas tradicionais, concebidas numa era pré-digital, têm dificuldade em adaptar-se à velocidade imposta pela inovação tecnológica. Esta assincronia temporal entre a rápida evolução da IA e o ritmo mais lento dos processos democráticos cria um vazio de governação que corre o risco de ser preenchido por mecanismos de decisão não democráticos.

‍

O desafio não consiste apenas em regular a IA através das instituições existentes, mas em repensar essas instituições de modo a torná-las adequadas a uma era em que a inteligência artificial está a tornar-se cada vez mais central nos processos sociais, económicos e políticos.

‍

Um novo conceito de cidadania na era da IA

Para enfrentar estes desafios, é necessário desenvolver uma nova conceção de cidadania democrática que incorpore uma consciência do papel da IA. Isto implica ultrapassar tanto o tecno-otimismo ingénuo, que vê a IA apenas como uma oportunidade de melhoria democrática, como o pessimismo, que a vê apenas como uma ameaça.

‍

Em vez disso, requer o desenvolvimento de uma literacia cívica que inclua a capacidade de avaliar criticamente a influência dos algoritmos, de participar conscientemente em debates sobre questões tecnológicas complexas e de exigir transparência e responsabilização aos que desenvolvem e implementam sistemas de IA com impacto social significativo.

‍

Em última análise, a relação entre a IA e a democracia não é predeterminada pela tecnologia em si, mas dependerá da nossa capacidade colectiva de imaginar e construir instituições, normas e práticas que permitam que o desenvolvimento tecnológico seja orientado para o reforço e não para a erosão dos valores democráticos fundamentais.

‍

FAQ sobre inteligência artificial e democracia

‍

Como é que a IA pode reforçar a participação democrática?

A IA pode reforçar a participação democrática tornando a informação governamental mais acessível, permitindo a participação multilingue, analisando o contributo do público em grande escala e personalizando as experiências de participação cívica.Eventos do IeeeOECD Por exemplo, os serviços de tradução melhorados pela IA podem permitir que as minorias linguísticas participem mais plenamente nos processos democráticos, enquanto as ferramentas de análise de dados podem ajudar os governos a identificar e a resolver as desigualdades na prestação de serviços públicos. Nextcity + 2

‍

Quais são os riscos mais preocupantes da IA para os sistemas democráticos?

Os riscos mais significativos incluem: a proliferação de desinformação persuasiva e de "deepfakes" que minam os factos partilhados; a manipulação através de conteúdos políticos micro-direcionados; preconceitos algorítmicos que excluem certos grupos dos processos democráticos; e vulnerabilidades de segurança nas infra-estruturas eleitorais. Sage Journals + 5 A investigação mostra que estes riscos não são meramente teóricos - os estudos documentam o poder persuasivo dos conteúdos políticos gerados por IA e adaptados aos perfis psicológicos individuais. PubMed + 2

‍

Como é que os governos podem regular a IA nas campanhas políticas?

As abordagens regulamentares eficazes incluem: requisitos de divulgação obrigatórios para conteúdos políticos gerados por IA; limites aos tipos de dados pessoais que podem ser utilizados para micro-direcionamento político; mecanismos de supervisão independentes para monitorizar os sistemas de IA das campanhas; e iniciativas de educação pública para aumentar a sensibilização dos eleitores para as técnicas de persuasão melhoradas por IA. PBS + 4 A Lei da IA da UE constitui um exemplo de um quadro regulamentar baseado no risco que aborda especificamente a utilização da IA nos processos democráticos. Europa + 2

‍

Que papel devem os cidadãos desempenhar na governação da IA?

Os cidadãos devem ter oportunidades significativas de moldar a governação da IA através de mecanismos participativos, como assembleias de cidadãos, consultas públicas e processos contínuos de envolvimento das partes interessadas. A investigação da Brookings mostra que o envolvimento de diversas partes interessadas ao longo do ciclo de vida da IA conduz a sistemas mais fiáveis que reflectem melhor os valores sociais. Adalovelaceinstitute + 13 Modelos bem sucedidos, como a Carta de Dados de Camden, demonstram como a participação dos cidadãos pode estabelecer quadros éticos para a utilização da IA nos serviços públicos. OCDE

‍

Como podemos proteger as infra-estruturas eleitorais contra as ameaças baseadas na IA?

As estratégias de proteção incluem: a implementação de medidas robustas de cibersegurança, como a autenticação multifactor; a formação de funcionários eleitorais para reconhecerem tentativas de phishing melhoradas por IA; o desenvolvimento de sistemas para identificar e contrariar a desinformação gerada por IA sobre a votação; a Sophos News que estabelece processos de verificação para comunicações eleitorais oficiais; e a criação de sistemas redundantes para infra-estruturas eleitorais críticas. ABC News + 2 A Agência de Cibersegurança e Segurança das Infra-estruturas (CISA) fornece diretrizes específicas para os funcionários eleitorais sobre a mitigação dos riscos da IA. CisaCisa

‍

Como é que a IA pode mudar a relação entre os cidadãos e o governo?

A IA pode transformar as relações entre os cidadãos e a administração pública, permitindo serviços públicos mais personalizados, criando novos canais de participação cívica, automatizando certas funções da administração pública e alterando potencialmente a dinâmica do poder nos sistemas democráticos. EffOECD A direção desta transformação depende em grande medida das escolhas de governação, quer a IA seja implementada de forma a aumentar a responsabilidade democrática, quer concentre o poder em sistemas técnicos com supervisão limitada. ScienceDirect + 2

Que cooperação internacional é necessária para a governação da AI em contextos democráticos?

A cooperação internacional é essencial para estabelecer normas partilhadas, evitar a fragmentação regulamentar, abordar os impactos transfronteiriços da IA e promover o alinhamento em torno dos valores democráticos no desenvolvimento da IA. OCDE + 2 Os Princípios de IA da OCDE representam um modelo de coordenação internacional, proporcionando um quadro comum adotado por 47 jurisdições a nível mundial, ao mesmo tempo que permitem flexibilidade para a implementação nacional. OCDEBrookings

‍

Como podemos garantir que a IA beneficia a democracia em vez de a minar?

Garantir que a IA beneficia a democracia exige: quadros de governação proactivos baseados em valores; requisitos significativos de transparência e responsabilização; abordagens participativas ao desenvolvimento e regulamentação da IA; investimento na literacia digital; proteção dos direitos fundamentais nas aplicações de IA; e mecanismos para responsabilizar os sistemas de IA e os seus criadores. Eff + 4

Os dados sugerem que as abordagens de governação antecipatória são mais eficazes do que a regulamentação reactiva. OecdBrookings

‍

Conclusão

A IA apresenta oportunidades e desafios significativos para os sistemas democráticos mundiais. A nossa análise exaustiva sugere várias conclusões fundamentais:

1. A evolução tecnológica continua: as ferramentas de IA para criar e difundir a desinformação estão a tornar-se mais sofisticadas e acessíveis, exigindo uma vigilância contínua e respostas adaptativas. Dialogopolitica
2. O impacto é contextual: o impacto da desinformação reforçada por IA varia significativamente consoante os contextos sociais, políticos e mediáticos, com algumas sociedades a revelarem-se mais resistentes do que outras. The Washington Post + 2
3. As soluções requerem colaboração: respostas eficazes à desinformação sobre IA exigem a cooperação de várias partes interessadas entre empresas de tecnologia, governos, sociedade civil e cidadãos. Acigjournal + 4
4. O julgamento humano continua a ser essencial: apesar dos avanços nos sistemas de deteção de IA, o pensamento crítico humano e a literacia mediática continuam a ser a derradeira defesa contra a desinformação sofisticada. VtAARP
5. É necessária uma compreensão matizada: para além das soluções tecnológicas, a luta contra a desinformação reforçada pela IA exige que se aborde a polarização social subjacente, os desafios do ecossistema mediático e as lacunas na educação cívica. Taylor &FrancisNatureza