21 de outubro de 2026
A inteligência artificial já está a mudar a forma como as entidades públicas funcionam. Os funcionários estão a utilizar a IA generativa para pesquisar informações, analisar dados, redigir comunicações e simplificar o trabalho administrativo. Os docentes e os alunos estão a incorporá-la nas salas de aula, enquanto as agências governamentais exploram aplicações que possam melhorar a eficiência e ajudar os funcionários a compreender informações cada vez mais complexas.
Para os responsáveis pela gestão de riscos no setor público, a adoção generalizada traz consigo um conjunto crescente de considerações. A utilização da IA pode dar origem a riscos relacionados com a privacidade, a cibersegurança, as práticas laborais, a conservação de registos, a desinformação, o risco reputacional e a segurança pública; além disso, em muitas organizações, os colaboradores podem já estar a utilizar a IA antes de as políticas formais, os programas de formação e as estruturas de governação terem sido totalmente implementados.
As práticas estabelecidas de gestão de riscos e controlo de perdas podem proporcionar um quadro sólido para a gestão destas exposições, mesmo à medida que a tecnologia continua a evoluir.
Comece pela governação
Uma das perguntas mais úteis que um responsável pela gestão de riscos pode fazer hoje em dia é:sabemos como é que a IA está a ser utilizada em toda a nossa organização?
Sem uma abordagem a nível de toda a organização, os colaboradores ou departamentos podem tomar as suas próprias decisões sobre quais as ferramentas a utilizar, que informações podem ser introduzidas nessas ferramentas e quando é adequado incorporar no seu trabalho os resultados gerados pela IA. Essas decisões podem criar riscos que vão muito além do colaborador que inicialmente utilizou a tecnologia.
Uma política formal de governação da IA pode definir expectativas comuns relativamente a utilizações aceitáveis e proibidas, privacidade e segurança dos dados, revisão humana, formação dos colaboradores, controlos dos fornecedores, conservação de registos e comunicação de incidentes.
No caso dos distritos escolares, a governação pode também incluir acordos relativos à utilização da IA por parte dos alunos e dos pais, bem como expectativas claras para os funcionários que lidam com informações dos alunos. As políticas escritas podem servir de base para a formação, a prestação de contas e a tomada de decisões coerente, ao mesmo tempo que demonstram que a organização tomou medidas proativas para gerir os riscos emergentes.
Uma vez que as capacidades de IA estão cada vez mais integradas em telemóveis, plataformas de software, ferramentas de pesquisa e outras tecnologias que os colaboradores utilizam diariamente, as entidades públicas devem estabelecer parâmetros claros sobre a forma como essas ferramentas podem ser utilizadas, a que informações podem aceder e em que situações é necessária a supervisão humana.
Siga os dados
As entidades públicas lidam habitualmente com informações que não devem ser introduzidas de forma descuidada num ambiente de IA não aprovado, incluindo registos de funcionários, informações sobre cidadãos, dados protegidos de alunos e outro material confidencial ou sensível.
Os responsáveis pela gestão de riscos devem colaborar com as equipas de TI, segurança da informação, jurídica e operacional para compreender para onde vão as informações quando se utiliza uma aplicação de IA, se estas são conservadas, quem pode ter acesso às mesmas e se a organização as pode recuperar quando necessário.
Os requisitos relativos aos registos públicos acrescentam mais um aspeto a ter em conta. Se os colaboradores utilizarem IA para criar ou alterar conteúdos relacionados com assuntos públicos, as organizações poderão ter de determinar se esses conteúdos estão sujeitos aos requisitos aplicáveis em matéria de conservação ou divulgação e se podem, de facto, ser localizados e apresentados.
Um exercício útil para o controlo de perdas consiste em acompanhar os dados do início ao fim:Que informações são introduzidas na ferramenta? Para onde vão? O que lhes acontece aí? Quem pode aceder a essas informações? Como as recuperaríamos, se fosse necessário?
Quando não for possível responder a essas perguntas com segurança, o caso de utilização justifica uma análise mais aprofundada.
Fazer com que as pessoas se responsabilizem pelos resultados
A IA pode produzir informação com uma rapidez notável e aparente confiança, incluindo informação incompleta, tendenciosa ou incorreta. Isto torna-se particularmente importante quando a IA influencia decisões relacionadas com contratação, promoção, adaptações, concessão de licenças, reclamações, comunicações públicas ou outras atividades de grande impacto.
Uma revisão humana eficaz requer alguém com conhecimentos e autoridade suficientes para questionar os resultados, validar a informação subjacente e rejeitar uma recomendação, quando for o caso.
As organizações devem também ter em contaquem pode ser afetado quando a IA comete um erro. Os estudantes podem deparar-se com questões relacionadas com a privacidade, a acessibilidade e a segurança; os colaboradores podem ser afetados por decisões relacionadas com a contratação, adaptações ou progressão na carreira; e os cidadãos podem deparar-se com questões relacionadas com a igualdade de acesso, a transparência e o devido processo legal.
As consequências potenciais devem ajudar a determinar o nível adequado de supervisão. As aplicações de IA que possam afetar significativamente um indivíduo podem exigir testes adicionais, revisão humana e procedimentos de escalonamento claramente definidos.
A experiência é outro aspeto a ter em conta. Um profissional com vasta experiência pode reconhecer rapidamente quando uma recomendação gerada por IA não faz sentido, enquanto alguém com menos experiência pode estar mais inclinado a aceitar o resultado tal como está. As organizações devem ponderar em que situações poderá ser necessário apoio ou revisão adicionais, tendo em conta os diferentes níveis de experiência e funções.
A formação em IA deve incluir orientações sobre como reconhecer resultados questionáveis, validar informações e saber quando é necessária uma revisão adicional.
Prepara-te para o caso de algo correr mal
Os princípios tradicionais de controlo de perdas continuam a ser extremamente relevantes num ambiente que recorre à IA.
As informações críticas devem ser devidamente guardadas em cópias de segurança e ser recuperáveis. Os contratos com os fornecedores devem abordar claramente as responsabilidades, a proteção de dados e outras salvaguardas adequadas, incluindo cláusulas de indemnização e a confirmação de uma cobertura de seguro adequada para os riscos relacionados com a IA. À medida que as seguradoras introduzem exclusões relacionadas com a IA generativa, as organizações devem colaborar com os seus corretores de seguros para analisar cuidadosamente a redação das apólices e identificar potenciais lacunas na cobertura. Estas exclusões podem afetar a responsabilidade decorrente de conteúdos, recomendações ou decisões gerados pela IA, incluindo certas reclamações por lesões corporais, danos materiais e violação de propriedade intelectual. As organizações devem também compreender como os fornecedores estão a utilizar a IA nos serviços que prestam, uma vez que a exposição de uma entidade pode estender-se para além da tecnologia que adquire ou implementa diretamente.
As aplicações de maior risco podem exigir medidas de segurança adicionais. Por exemplo, se se espera que a tecnologia identifique linguagem associada a automutilação, ameaças de danos a terceiros, bullying ou outra preocupação grave em matéria de segurança, os responsáveis pela gestão de riscos devem verificar se existem sistemas de monitorização e alertas automatizados, o que desencadeia esses alertas e se estes chegam ao pessoal adequado para uma intervenção atempada. No caso específico dos distritos escolares, estas medidas de segurança podem ser importantes quando a tecnologia desempenha um papel na identificação de potenciais ameaças ao bem-estar dos alunos.
As organizações devem também ponderar como recuperariam o controlo caso um processo baseado em IA começasse a comportar-se de forma inesperada. Será possível isolar ou desativar imediatamente a tecnologia através de um mecanismo de desligamento de emergência, por vezes designado por «kill switch»? Será possível recuperar informações críticas? Quem tem autoridade para intervir?
Trata-se de questões conhecidas no âmbito da gestão de riscos, aplicadas a uma nova geração de tecnologia.
Fazer da governação da IA uma responsabilidade partilhada
Uma governação eficaz da IA requer a participação de toda a organização. Os conselhos de administração e os líderes executivos podem definir a apetência pelo risco e as políticas; os Recursos Humanos podem ocupar-se da formação dos colaboradores e das normas de utilização aceitáveis; as equipas de TI e de segurança podem gerir a tecnologia e a proteção de dados; as equipas jurídicas e de conformidade podem dar resposta aos requisitos regulamentares e de privacidade; os responsáveis pelos departamentos podem supervisionar as aplicações operacionais; e os gestores e colaboradores continuam a ser responsáveis pela forma como a IA é utilizada no trabalho quotidiano.
Os responsáveis pela gestão de riscos podem desempenhar um papel importante na articulação destas funções, identificando os pontos de intersecção das exposições e ajudando a garantir que existam linhas de responsabilidade claras à medida que são introduzidas novas aplicações de IA.
Sete perguntas para os responsáveis pela gestão de riscos no setor público
As entidades públicas podem começar a reforçar os seus controlos colocando sete perguntas práticas:
- Em que áreas é que os colaboradores já estão a utilizar IA, incluindo ferramentas que ainda não foram formalmente aprovadas?
- Que tipo de informação está a ser introduzida e será que alguma dela pode ser confidencial, protegida ou sujeita a requisitos de arquivo?
- Que atividades assistidas por IA poderiam afetar significativamente um colaborador, aluno, cidadão ou eleitor?
- Em que casos é necessária uma revisão humana e os revisores estão preparados para questionar e validar os resultados da IA?
- Que situações devem levar a um encaminhamento imediato para uma pessoa?
- Será que conseguiríamos interromper um processo baseado em IA e recuperar informações críticas caso algo corresse mal?
- Quando foi a última vez que revimos as nossas políticas, formação, contratos com fornecedores e cobertura de seguros à luz da tecnologia de IA que está efetivamente a ser utilizada atualmente?
Estas questões devem ser revistas regularmente, uma vez que novos regulamentos, tecnologias emergentes, riscos de privacidade e segurança, experiência operacional e mudanças na aceitação por parte dos colaboradores alteram o perfil de risco de uma organização.
Reforçar a resiliência à medida que a IA evolui
A IA está a evoluir a um ritmo mais rápido do que muitos dos processos tradicionais de definição de políticas e aprovação do setor público conseguem acompanhar. Em algumas organizações, as políticas têm de passar por conselhos de administração e outros processos formais de revisão, o que pode dificultar que a governação acompanhe as rápidas mudanças na tecnologia.
As práticas estabelecidas de gestão de riscos constituem uma base útil: expectativas claras, controlos bem ponderados, proteção de informações sensíveis, supervisão humana eficaz, formação, procedimentos de escalonamento e reavaliação regular. Essas práticas podem também conferir às entidades públicas maior confiança na avaliação de novas aplicações de IA e na decisão sobre onde poderão ser adequadas salvaguardas adicionais.
As organizações que, desde já, estabelecerem expectativas claras, uma supervisão rigorosa e medidas de proteção práticas estarão mais bem preparadas para se adaptarem à medida que a IA continua a evoluir.
Austrália
Canadá
Dinamarca
França
Alemanha
Grécia
Irlanda
Países Baixos
Nova Zelândia
Noruega
Espanha e Portugal
Reino Unido
Estados Unidos