A NOVA ERA DIGITAL NA ADMINISTRAÇÃO - Modernização administrativa e IA

 

Constança Hermínio, 2º ano, TB11

Direito Administrativo I

 

 A NOVA ERA DIGITAL NA ADMINISTRAÇÃO

Modernização administrativa e IA

INTRODUÇÃO

Nos dias em que hoje vivemos, observamos uma sociedade profundamente marcada pela introdução das novas tecnologias, que mudaram a maneira como as pessoas, as organizações e até mesmo os Estados interagem uns com os outros. Neste processo de transformação surge uma nova forma na governação, no qual a digitalização, e também a Inteligência Artificial nos tempos mais recentes, desempenham um papel fundamental na modernização das funções públicas, racionalizando os recursos e alterando a forma como a administração e os cidadãos se relacionam. Desta forma, com este trabalho é pretendido analisar a evolução, os impactos e desafios da Administração Digital e da IA em particular.

 

A TRANSFORMAÇÃO DA ADMINISTRAÇÃO EM CRONOLOGIA

Com a difusão da Internet, a massificação dos dispositivos inteligentes, os Estados enfrentam a necessidade de adaptar a sua atuação às novas exigências que esta realidade traz, nomeadamente uma sociedade fortemente dependente de tecnologias de informação e comunicação. A chamada Sociedade da Informação, que redefine comportamentos sociais, económicos e políticos.

A digitalização vai se também verificar na Administração Pública, que vai passar dos modelos “tradicionais” burocráticos, essencialmente caracterizados por procedimentos lentos, e sobretudo em papel, para modelos digitalizados.

Desde o século XX, especialmente na década de 90, surgiu um movimento de Reforma Administrativa o New Public Management. Este movimento causou ao setor público uma profunda mudança, com a introdução das TIC a recentrar a atividade administrativa no cidadão e nas suas necessidades, procurando serviços menos burocratizados e mais eficientes. Surge assim o governo eletrónico, no qual a AP vai se através da incorporação destas novas tecnologias. A digitalização tornou-se, assim, uma mudança estrutural, na qual as TIC, e mais recentemente, a Inteligência Artificial, assumem um papel que cresce em importância na atuação administrativa. A digitalização e a introdução de tecnologias são, neste contexto, atualmente encaradas como essenciais para a eficácia e modernização, além de permitirem concretizar princípios fundamentais da Administração Pública.

 

A ADMINISTRAÇÃO PÚBLICA DIGITAL EM PORTUGAL

Nos últimos anos, sobretudo desde 2016, Em Portugal tem vindo a desenvolver vários programas de modernização administrativa. O mais relevante será talvez a Iniciativa Nacional de Competências Digitais e.2030 (INCoDe.2030), lançada pelo governo em 2017.  Este programa constitui uma resposta aos desafios da adaptação tecnológica e da inclusão social.

Os objetivos nele presente vão ao encontro da necessidade de preparar, tanto a população, como as estruturas do Estado para a realidade digital, ao promover a formação e a literacia digital. Isto deve ser feito através do reforço das competências necessárias para que as pessoas acedam de forma autónoma aos serviços e consigam trabalhar de forma assertiva com os mesmos. Simultaneamente, o programa procura reduzir desigualdades através da inclusão, alargando o âmbito das suas medidas a mais camadas da sociedade para que se possa assegurar o exercício pleno do direito de acesso à informação administrativa.

A modernização administrativa exige ainda a formação contínua dos funcionários públicos, tendo sempre presente o risco de exclusão digital que afeta grupos certas camadas mais desfavorecidas da população. Por isso, a Administração deve proporcionar os meios eletrónicos necessários, conforme o artigo 14.º, n.º 4, do CPA, e manter canais alternativos, incluindo o atendimento presencial, para evitar desigualdades.

No ordenamento jurídico português, o Código do Procedimento Administrativo é verdadeiramente relevante, pois consolida a digitalização como modo preferencial de atuação administrativa. O seu artigo 61º, em articulação com o dever de utilização previsto no artigo 14.º, n.º 1, estabelece a preferência pelos meios eletrónicos como regra geral da atividade administrativa. Desta forma, prevê-se uma maior simplificação, desmaterialização e eficiência. A digitalização também contribui para a racionalização dos recursos, de acordo com o previsto no artigo 267/5 da CRP. Paralelamente, o CPA também assegura a proteção dos direitos dos particulares através do artigo 14/3, onde é consagrado o princípio da paridade, que estende às operações eletrónicas todas as garantias aplicáveis ao procedimento tradicional.

 

A Agência para a Modernização Administrativa

No contexto da digitalização da AP portuguesa, parece bastante pertinente fazer referência à Agência para a Modernização Administrativa, que é um instituto público da administração indireta do Estado. Esta agência teve um importante papel no desenvolvimento de projetos e medidas nas áreas da modernização e simplificação administrativa e regulatória, da administração eletrónica e da distribuição de serviços públicos. A sua atuação passa por três vertentes, o do atendimento, a da simplificação ou desmaterialização e a da interoperabilidade. No que diz respeito ao primeiro, procede à expansão e diversificação das formas de contacto entre a Administração e os cidadãos, através de soluções, tanto presenciais, como remotas. Em relação à simplificação e a desmaterialização, a agência procurou reduzir a burocracia na atividade administrativa, fazendo a atualização dos procedimentos, que eram antes feitos em suporte físico e passara a ser feitos através de plataformas digitais. Quanto à interoperabilidade, esta garante a conexão entre sistemas para que estes consigam se coordenar entre si, através de plataformas que permitam uma comunicação transparente e a partilha de informação de forma segura e uniforme.

 

A INTELIGÊNCIA ARTIFICIAL NA ADMINISTRAÇÃO PÚBLICA

Conceito

A Inteligência Artificial, ou IA, é uma criação científica capaz de reproduzir competências tradicionalmente associadas ao ser humano, como o raciocínio, a aprendizagem, o planeamento e a até mesmo a criatividade. Consiste num conjunto de tecnologias que utiliza um algoritmo em que o computador se baseia, para auxiliar ou até substituir a intervenção humana. O tempo bastante reduzido da introdução desta tecnologia na sociedade é inversamente proporcional ao impacto que causou deste que se estabeleceu. A Administração seguiu esta tendência e tem integrado esta tecnologia no seu funcionamento.

É possível fazer uma distinção entre IA forte e IA fraca, cada uma com uma funcionalidade diferente. A primeira corresponde à ideia de que um computador poderia reproduzir integralmente a mente humana, replicando os processos cognitivos de forma completa, já a segunda limita-se a executar tarefas específicas, sem que haja verdadeira tomada de decisão independente. A segunda modalidade é naturalmente aquela que se aplica hoje à administração pública, servindo a IA como instrumento de apoio ao trabalho humano, não eliminando a intervenção e supervisão por parte dos profissionais. Assim, no Direito Administrativo, a sua utilização contribui para a concretização do princípio da boa administração, permitindo aumentar a eficiência, reduzir custos e acelerar procedimentos.

 

Benefícios

Num primeiro plano, é de salientar que a introdução das TIC na Administração Pública tem permitido alcançar ganhos expressivos de eficiência e produtividade. Com a facilidade em realizar os processos e sua automatização com o uso da IA, é possível alcançar níveis que os métodos tradicionais muitas vezes não conseguem garantir. Além disso, com a realização das tarefas mais repetitivas, que acabam por consumir demasiado tempo, esta tecnologia leva a um aumento na produtividade, pois os trabalhadores podem focar-se nas partes que só eles conseguem fazer.

Outro benefício relevante consiste na redução de erros humanos, pois tecnologias como a IA conseguem recolher uma grande quantidade de informação, num período muito reduzido, permitindo uma tomada de decisões mais informada. Esta característica reforça o princípio consagrado no artigo 5.º do CPA, ao promover maior eficiência na atuação administrativa. No entanto, é importante salientar que também se podem geral problemas, como a utilização incorreta de pressupostos de facto ou a falta de atualização constante dos algoritmos, que podem levar a informações incorretas.

A transparência é igualmente um benefício conhecido através da transformação digital. Esta aproximou a Administração dos cidadãos, facilitando o acesso à informação e contribuindo para práticas mais claras e responsáveis. É hoje possível aceder à atuação da administração a qualquer tempo de forma clara com a apenas uma pesquisa na internet.

A personalização do serviço público é também algo a favor da IA, com a utilização de chatbots e assistentes virtuais que conseguem prestar um atendimento permanente e ajustado às necessidades dos utilizadores, respondendo a dúvidas e auxiliando na resolução de problemas.

 

DESAFIOS DECORRENTES DA DIGITALIZAÇÃO E IA

Como qualquer transformação, a modernização administrativa conjuntamente com a utilização da IA não possui só benefícios, muitos riscos são também facilmente observados.

Exclusão digital e desigualdade de acesso

A digitalização pode acentuar desigualdades já existentes, em camadas da população mais desfavorecidas que, naturalmente, possuem mais dificuldade em aceder às TIC, ou mesmo quando tem acesso às mesmas, têm dificuldade em adaptar-se a elas. O art. 14.º do CPA impõe o princípio do paralelismo e da igualdade de acesso, obrigando a Administração a garantir soluções alternativas de forma amparar estas discrepâncias.

Privacidade, proteção de dados e cibersegurança

Por outro lado, a transição para um ambiente digital e a crescente acumulação de dados criam vulnerabilidades que devem ser tidas em conta. Em primeiro lugar, a recolha de dados pessoais em grande quantidade, dada a desmaterialização da informação levanta sérios problemas privacidade. Em relação à IA, estes riscos são ainda mais agravados. A concentração de informação sensível torna a Administração Pública mais vulnerável a ataques cibernéticos, que tem como objetivo o acesso a dados confidenciais e a sua utilização para fins ilícitos, como o roubo de identidade ou a extorsão. Tendo em conta estes riscos, a cibersegurança é essencial para garantir o direito à privacidade dos cidadãos.

Outro risco relevante está associado ao “profiling” e a um possível aumento do poder do estado. O facto dos sistemas como a IA analisarem padrões e preverem comportamentos suscita preocupações quanto ao poder que o Estado pode adquirir com o apoio destes na tomada de decisões administrativas. Reconhecendo estes perigos, a União Europeia estabeleceu, no âmbito de uma futura Lei da IA, um conjunto de práticas proibidas por representarem um risco inaceitável, e configurarem ameaças sérias aos direitos humanos e à privacidade.

Neste contexto, parece importante referir o Regulamento Geral sobre a Proteção de Dados (RGPD), que tem um papel fundamental, desenvolvendo o direito à proteção de dados pessoais, que está presente no artigo 26.º da CRP e também no artigo 8.º da Carta dos Direitos Fundamentais da União Europeia. O RGPD foi publicado em 2016 e reforça a tutela dos dados pessoais. O seu cumprimento é particularmente relevante em contextos de troca de informação entre serviços públicos. Além disso, este impõe limites claros ao tratamento automatizado de dados, sobretudo no que toca a decisões que possam afetar a esfera jurídica dos titulares. Efetivamente, o seu artigo 22º consagra o direito a que as pessoas não fiquem sujeitas a decisões inteiramente automatizadas que produzam efeitos significativos na sua situação jurídica, afirmando a necessidade de intervenção humana em processos decisórios relevantes.

Responsabilidade civil por decisões algorítmicas

A utilização da IA levanta também questões no que respeita à determinação de responsabilidades. Determinar qual a origem de um erro torna-se particularmente difícil, uma vez que os sistemas automatizados envolvem vários níveis técnicos e operacionais. Também os erros que podem ocorrer são variados, pois podem resultar de problemas na própria máquina, erros de programação como instruções incorretas ou ainda a utilização de “inputs” incorretos, como a introdução de pressupostos de facto errados ou informações incompatíveis. Embora os procedimentos tradicionais também estejam sujeitos a falhas, nos sistemas automatizados a margem de controlo e de correção por parte dos agentes públicos é consideravelmente mais reduzida.

Esta dificuldade vai refletir-se na imputação de culpa e na determinação de quem será responsável. Por exemplo, no caso atos administrativos que são totalmente automatizados, a decisão resulta de um processo complexo que envolve diversos intervenientes, o que torna praticamente impossível atribuir o erro a uma pessoa específica. Além disso, não é possível conciliar a responsabilidade civil subjetiva, que está prevista nos artigos 7 e 8 do Regime da Responsabilidade Civil Extracontratual do Estado, com as decisões produzidas por sistemas automatizados, uma vez que estas exigem um facto voluntário e um juízo de culpa aplicado a um comportamento humano. Da mesma forma o regime da responsabilidade pelo risco, previsto no artigo 11.º do RRCEEP, se revela inaplicável, uma vez que a utilização de sistemas informáticos não configura uma atividade dotada da especial perigosidade exigida para que este regime se aplique. Assim, não existe nenhum artigo que regule estes erros como algo particular, surgindo o risco de a possibilidade do dano resultar do funcionamento global da Administração.  

É neste contexto que surge a possibilidade de se poder recorrer à responsabilidade por funcionamento anormal do serviço, consagrado no artigo 7/3 e 4, do RRCEEP. Este regime encontra-se como solução mais adequada, imputando a responsabilidade à Administração enquanto entidade coletiva, sem necessidade de provar culpa de um agente concreto. Assim continua-se a proteger os direitos dos cidadãos, sem a necessidade de procurar uma conduta ilícita de forma individualizada.

Um exemplo na Jurisprudência neste sentido encontra-se na decisão do Tribunal Central Administrativo Norte, que condenou o Estado pelo dano causado a um cidadão retido no aeroporto devido à permanência indevida de mandados de detenção, que já tinham sido pagos no sistema informático do Serviço de Estrangeiros e Fronteiras. Como não era possível atribuir a falha a um funcionário concreto, a responsabilidade recaiu sobre a Administração, a título de funcionamento anormal do sistema informático.

Apesar de ser a solução mais coerente e segura no quadro jurídico atual, a doutrina não considera que esta solução vá a ser mais adequada, não sendo totalmente satisfatória. Assim sendo, defende-se a necessidade urgente da criação de um regime que regule esta questão de responsabilidade.

Poder discricionário e limites da automação

A utilização de sistemas automatizados quando utilizada em atos administrativos baseados em poderes vinculados, ou seja, atos em que conteúdo da decisão já está determinado por lei, não apresenta nenhum problema prático, já que a máquina irá apenas cumprir com aquilo presente na lei. Aliás, este procedimento é autorizado pelo artigo 153.º, n.º 3, do Código do Procedimento Administrativo.

Isto muda quando os atos são baseados em poderes discricionários. Estes poderes exigem uma ponderação prévia da administração, e uma interpretação da norma que deve ser orientada pelos princípios jurídicos e pelos interesses públicos em causa. Por essa razão, a IA não consegue substituir a intervenção humana nestes atos, pois não é capaz de imitar este comportamento humano. Tentar impor a uma máquina critérios de ponderação que são intrinsecamente humanos seria, além de irrealista, contraproducente.

Assim sendo, é imperativo que a IA deva assumir apenas um papel auxiliar nas situações que envolvem poderes discricionários, contribuindo para a análise de informação ou para a organização dos dados, mas sem assumir a decisão final. O próprio Regulamento Geral sobre a Proteção de Dados apoia esta ideia, ao estabelecer no seu artigo 22/1 o direito a que as pessoas não se encontrem sujeitas a decisões exclusivamente automatizadas que produzam efeitos significativos na sua esfera jurídica.

 

 

 

A REGULAÇÃO DA INTELIGÊNCIA ARTIFICIAL

o AI Act

A União Europeia aprovou Lei da Inteligência Artificial, também conhecido como AI Act, que foi o primeiro quadro jurídico global para IA. Este foi um passo muito importante na evolução da digitalização. A proposta, iniciada em 2021, pretende garantir uma IA centrada no ser humano, assegurando a proteção da saúde, segurança, direitos fundamentais e da democracia.
O diploma faz abordagem baseada no risco, ajustando o grau de regulamentação ao nível de perigo que a utilização de cada sistema representa.

Em primeiro lugar, apresentam-se os sistemas considerados perigosos para os direitos fundamentais, que representam um risco inaceitável, ao violarem gravemente a privacidade e os direitos humanos. Estes são totalmente proibidos, e são:

  • Vigilância biométrica em larga escala.
  • Reconhecimento de emoções.
  • Policiamento preditivo.
  • Criação de bases de dados de reconhecimento facial através da recolha massiva de imagens online ou de videovigilância.

Num grau mais abaixo, temos os sistemas de Alto Risco, que estão sujeitos a fortes restrições por serem aplicados em setores sensíveis como saúde, justiça ou serviços sociais. Estão sujeitos a obrigações estritas que garantam:

  • Supervisão humana;
  • Segurança e privacidade;
  • Transparência;
  • Não discriminação;
  • Proteção social e ambiental.

Num último patamar, são colocados os sistemas de risco limitado ou mínimo. Estes são sistemas com impacto reduzido, que estão sujeitos apenas a deveres de transparência, ou então são de utilização livre.

Princípios éticos internacionais da IA

Não só no seio da EU a IA gera preocupação. De facto, organizações como OCDE, UNESCO e Conselho da Europa defendem princípios fundamentais e têm reforçado o enquadramento legal para o uso da IA, centrado na proteção dos direitos fundamentais e na garantia de utilização dos sistemas de forma ética e responsável.

Supervisão Humana e Controlo do Utilizador

A supervisão humana é essencial para controlar a forma como os sistemas atuam. O Artigo 22.º, n.º 1, do RGPD assegura o direito a uma decisão humana, impedindo decisões exclusivamente automatizadas com impacto jurídico relevante. Também a Carta Ética da CEPEJ reforça o controlo do utilizador, e a doutrina reforça a defesa do uso de IA fraca, que apoia, mas não substitui o decisor. A UE é também defensora dos sistemas centrados no ser humano.

Transparência e Explicabilidade

A Carta Ética prevê o princípio da transparência, que é fundamental para o controlo democrático e judicial. Como já verificado, a digitalização administrativa atua nesse sentido, garantindo o acesso à informação, atuando de acordo com o Art 37 da CRP. Porém, a IA ainda encontra dificuldades em fundamentar atos complexos, exigindo explicabilidade para permitir contestação e fiscalização.

Não Discriminação

A IA pode gerar decisões discriminatórias devido a enviesamentos algorítmicos. No ordenamento jurídico português, a Constituição, nos seus Art. 13.º e 266/2, impõe os princípios da igualdade e imparcialidade. Também a proposta de Lei da IA da UE proíbe práticas de risco inaceitável que promovam discriminação, indo ao encontro com o conteúdo da Carta Ética, que exige imparcialidade e justiça.

Robustez e Segurança

A segurança dos sistemas e dos dados é um direito que deve ser protegido, devendo ser minimizados os riscos de ciberataques e de violações de privacidade. A proposta de Lei da IA impõe requisitos rigorosos de segurança e proteção de dados, reconhecendo a vulnerabilidade associada à recolha e armazenamento de grandes quantidades de informação privada.

 

 

Responsabilidade

A imputação de responsabilidade é um dos maiores desafios da IA, como também já foi explorado anteriormente. No contexto europeu e internacional, surge a Resolução 2929/2014 propõe distinguir entre sistemas de alto risco, que daria lugar a uma responsabilidade objetiva, e de menor risco, para fazer face a este risco.

 

A ADMINISTRAÇÃO DO FUTURO

O futuro do trabalho no setor público

Num primeiro impulso, a primeira ideia do impacto da digitalização e da IA no quesito trabalho é a redução dos postos de trabalho. Esta ideia não pode ser vista de forma tão literal. Tal como sucedeu noutras fases da História em que os surgimentos de novas tecnologias transformaram profundamente o mercado de trabalho, também agora a IA deve ser encarada não como uma ameaça, mas como uma oportunidade para reinventar formas de trabalho e criar áreas de atuação. A integração destas tecnologias implicará a adaptação da população às mesmas, acompanhado de aquisição de novas qualificações para tal.

Neste sentido, a utilização da IA poderá não apenas transformar funções existentes, mas também gerar novos empregos e melhorar a qualidade do trabalho na Administração Pública. Para que isto aconteça, deve-se investir no ensino e na formação profissional, assegurando que os trabalhadores adquirem competências digitais adequadas às exigências do futuro. A nível internacional, estima-se que cerca de 14% dos empregos nos países da OCDE sejam facilmente automatizáveis, enquanto 32% poderão sofrer alterações significativas. Em Portugal, certos programas, nomeadamente o INCoDe.2030, procura responder a este desafio, tal como já mencionado.

A evolução tecnológica e os desafios colocados pela IA tornam evidente a necessidade de perfis especializados capazes de lidar com as novas tecnologias dentro da Administração Pública, como por exemplo analistas de dados públicos, especialistas em cibersegurança, auditores algorítmicos e programadores especializados em serviços públicos. Também gestores de ética digital podem ser importantes, tendo o seu trabalho como função garantir que a utilização da IA respeita os direitos fundamentais, os princípios jurídicos e os valores éticos.

 

 

“Administração Pública 5.0”

As potencialidades futuras da IA abrangem um vasto conjunto de áreas da Administração Pública, proporcionando serviços mais eficientes e com capacidade de antecipação. Também enquanto ferramenta de apoio à decisão, a IA pode fornecer análises detalhadas e rápidas, embora a decisão final, sobretudo em matérias que exigem ponderação jurídica, deva continuar a caber ao titular do órgão competente.

A IA abre ainda caminho a serviços com capacidade de previsão e a uma gestão inteligente dos recursos públicos. Existem exemplos internacionais que o podem comprovar. É o caso de Singapura, com os sistemas de monitorização doméstica que permitem identificar antecipadamente situações de risco entre idosos. No âmbito municipal, os algoritmos podem prever necessidades de manutenção em equipamentos de transporte e acompanhar ecossistemas, ou ainda na proteção civil, os modelos de previsão calculam o risco de incêndio em edifícios, auxiliando na priorização de inspeções.

Assim, é possível concluir que a IA tem potencial para transformar profundamente a Administração Pública, desde que a sua utilização seja orientada por princípios de legalidade, ética, supervisão humana e proteção dos direitos fundamentais.Parte superior do formulário

Parte inferior do formulário

 

CONCLUSÃO

Concluindo, a Digitalização e a Inteligência Artificial apresentam-se como ferramentas de uma transformação na forma como o Estado desempenha as suas funções administrativas, estrutura os seus serviços e interage com a população. A digitalização proporcionou benefícios indiscutíveis em eficiência, acessibilidade e transparência, enquanto a IA acrescenta uma nova camada de lógica e análise nas ações governamentais. Contudo, estes progressos não são isentos de impactos, como se verificou, estes criam questões legais, éticas e sociais que devem ser tomados em conta.

 

 

 

 

 

 

BIBLIOGRAFIA:

MOURA, Patrícia e Sá, Alguns marcos do movimento da qualidade na administração pública em Portugal - Que sinais para o futuro?, “TMQ – TECHNIQUES, M ETHODOLOGIES AND QUALITY – Número Especial 10 anos – Qualidade no Futuro”, 2019, 61-80.

CUNHA Gonçalo, A Inteligência Artificial ao serviço da modernização da Administração Pública: um percurso sinuoso até 2030, “Governação Pública Digital, Smart Cities e Privacidade”, Edições Almedina, 2022, pp. 99-101.

PRATA, Miguel Roque, O nascimento da administração eletrónica num espaço transnacional (Breves notas a propósito do projeto de revisão do Código do Procedimento administrativo), “E-Pública Revista Eletrónica de Direito Público”, número 1, 2014, pp. 6-7.

PEREIRA DA SILVA, Vasco, O Contencioso Administrativo no Divã da Psicanálise, 2º Edição (2005), Almedina

FREITAS DO AMARAL, Diogo, Curso de Direito Administrativo, Vol. I, 4º Edição (2016), Almedina

PARYCEK, Peter; SCHMID, Verena; NOVAK, Anna-Sophie, Artificial Intelligence (AI) and Automation in Administrative Procedures: Potentials, Limitations, and Framework Conditions

Choi, Jonathan H. and Hickman, Kristin E. and Monahan, Amy and Schwarcz, Daniel B.,ChatGPT Goes to Law School (January 23, 2023). 71 Journal of Legal Education 387 (2022)

PACHECO, Francisco de Andrade et al., Ética & Direito, “Relatório Cibersegurança em Portugal”, Edição JusGov (Universidade do Minho) e CNCS, 2020.´

SILVA, Vasco Pereira da, The new world of information and new technologies in constitutional and administrative law, “Automatisierte systeme”, C.H.BECK, 2022, pp. 425-427.

https://www.ama.gov.pt/web/agencia-para-a-modernizacao-administrativa/pgetic

 

 

 

 

Comentários

Mensagens populares deste blogue

Natureza jurídicas das universidades públicas

Uma evolução das privatizações no ordenamento jurídico português - o termo “reprivatizações” em uma realidade contemporânea