Principais conclusões
- What ChatGPT does and how it works. ChatGPT is a conversational service built around large language models that generate responses from patterns learned during training and subsequent development.
- Where generative AI adds value. Public organisations can use AI to prepare first drafts of meeting minutes, public guidance, standard correspondence and briefing structures.
- Risks that require active controls. Models can invent sources, misinterpret numerical tables or produce uneven results across languages and groups.
- Como contratar e governar a IA. A Estrutura de Gestão de Riscos de IA do NIST e o seu perfil de IA generativa oferecem estruturas úteis para mapear danos, medir o desempenho e gerir riscos.
- Agências públicas e projetos financiados por doadores. Comece com um caso de uso restrito onde os erros sejam reversíveis e a revisão humana seja prática.
In short: Practical guide to ChatGPT and generative AI: key decisions, risks, examples and lessons for ministries, public agencies and donor-funded project teams.
Free self-check: the governance self-audit gives a quick check of governance, controls and accountability, in about 10 minutes.
In short: Chatgpt and generative ai is best understood through practical decisions, institutional responsibilities and evidence of results. This guide explains the mechanisms, trade-offs and safeguards that determine whether policies and projects deliver lasting benefits.
ChatGPT and Generative AI: Capabilities, Limits and Governance is not a single solution or a universal recipe. Results depend on the context, the capabilities of implementing organisations and the people affected. The sections below distinguish what is established, what must be tested locally and what project teams can do before making irreversible commitments.
What ChatGPT does and how it works
Modelos de linguagem e interfaces conversacionais
ChatGPT is a conversational service built around large language models that generate responses from patterns learned during training and subsequent development. It can draft, classify, summarise and help with code, but plausible language is not proof of accuracy.
Practical example: Ask it to summarise a policy document, then verify each important statement against the actual policy. Keep a record of the prompt, source version and human reviewer.
Um primeiro passo útil é distinguir a condição observável da sua causa presumida. As equipas devem documentar quem forneceu as evidências, que período abrangem e que explicação alternativa poderia produzir o mesmo padrão. Isto torna as recomendações mais defensáveis quando as circunstâncias mudam.
Antes de decidir, identifique o decisor, os utilizadores afetados e o custo de errar. Um pequeno piloto ou a análise de casos comparáveis costuma ser menos dispendioso do que adotar um sistema permanente com base numa apresentação.
Multimodal work and tool use
Contemporary AI systems may work with text, images, documents and other inputs, depending on the product and permissions. Some can use connected tools to retrieve information or complete workflows, which changes both their usefulness and their security exposure.
Practical example: A procurement officer can extract requirements from a scanned tender, but should confirm quantities, dates and exceptions directly from the source before publishing.
A implementação deve começar por uma situação de referência e uma descrição do fluxo de trabalho atual. Sem essa referência, uma melhoria posterior pode refletir apenas uma procura diferente, um aumento temporário do financiamento ou uma alteração no reporte, e não a própria intervenção.
As responsabilidades devem ser descritas em termos operacionais: quem recolhe a informação, quem aprova uma exceção e quem tem autoridade para interromper um trabalho inseguro ou ineficaz. A resposta deve ser visível para o pessoal, os fornecedores e os órgãos de supervisão.
Where generative AI adds value
Redação e análise administrativa
Public organisations can use AI to prepare first drafts of meeting minutes, public guidance, standard correspondence and briefing structures. Staff time saved is valuable only if the review process prevents fabricated citations and incorrect advice.
Practical example: Pilot AI on anonymised, low-risk correspondence and compare correction time, accuracy and accessibility with the existing process.
Os decisores têm de ponderar tanto os benefícios imediatos como as obrigações futuras. A despesa de capital é apenas uma parte do custo; a formação, a manutenção, a substituição, a acessibilidade e o tratamento de reclamações podem determinar se o investimento continua a ser útil.
Uma análise de opções credível inclui uma alternativa de menor custo e um cenário em que a procura ou o desempenho esperados não se concretizam. Publicar os pressupostos permite rever o plano sem ocultar a incerteza inicial.
Education, software and citizen services
AI can create learning exercises, explain code and assist help desks. It should not be treated as a substitute for teachers, qualified clinicians, caseworkers or formal eligibility decisions.
Practical example: A service desk can offer AI-assisted answers restricted to an approved knowledge base, with escalation to a human for uncertain or sensitive cases.
As evidências devem ser interpretadas ao nível adequado. Uma melhoria numa instalação, num bairro ou numa organização pode não se transferir para outra com infraestruturas, pessoal, incentivos ou exposição ao risco diferentes.
Os gestores de projeto podem testar a transferibilidade enumerando as condições que fizeram funcionar uma intervenção anterior e verificando se essas condições existem localmente. Se não existirem, adaptem a conceção em vez de copiar o resultado de destaque.
Risks that require active controls
Hallucinations, bias and overconfidence
Os modelos podem inventar fontes, interpretar mal tabelas numéricas ou produzir resultados irregulares entre idiomas e grupos. Uma resposta confiante pode estar errada mesmo quando a pergunta é simples.
Practical example: Use a test set containing difficult local-language queries, conflicting documents and deliberately missing information. Score abstention and escalation as well as correctness.
Envolvimento das partes interessadas é mais útil antes de as grandes opções ficarem fechadas. A consulta pode revelar restrições operacionais, práticas informais e efeitos distributivos que não constam dos dados administrativos.
Registe não só quantas pessoas foram consultadas, mas também que preocupações alteraram a conceção. Quando as opiniões divergirem, explique o compromisso adotado e o mecanismo de recurso ou de reclamação, numa linguagem que as pessoas afetadas consigam compreender.
Privacy, security and intellectual property
Sensitive data entered into an external system may be processed under terms that differ from an institution’s requirements. Uploaded documents can contain personal data, confidential bids or malicious instructions.
Practical example: Before a pilot, approve data classes, retention settings, access rights and incident response. Never upload identifiable patient records or sealed bids without a lawful and secure arrangement.
Um primeiro passo útil é distinguir a condição observável da sua causa presumida. As equipas devem documentar quem forneceu as evidências, que período abrangem e que explicação alternativa poderia produzir o mesmo padrão. Isto torna as recomendações mais defensáveis quando as circunstâncias mudam.
Antes de decidir, identifique o decisor, os utilizadores afetados e o custo de errar. Um pequeno piloto ou a análise de casos comparáveis costuma ser menos dispendioso do que adotar um sistema permanente com base numa apresentação.
Lista de verificação para a decisão:
- Definir o problema e as pessoas afetadas.
- Confirmar a situação de referência e as suas limitações.
- Comparar pelo menos duas opções viáveis.
- Atribuir um responsável identificado a cada risco importante.
- Especificar um resultado mensurável e uma data de revisão.
How to procure and govern AI
Risk assessment and human accountability
The NIST AI Risk Management Framework and its generative AI profile offer useful structures for mapping harms, measuring performance and managing risks. Accountability remains with the deploying institution.
Practical example: Create an AI use-case register identifying owner, purpose, affected groups, permitted data, reviewer and shutdown procedure.
A implementação deve começar por uma situação de referência e uma descrição do fluxo de trabalho atual. Sem essa referência, uma melhoria posterior pode refletir apenas uma procura diferente, um aumento temporário do financiamento ou uma alteração no reporte, e não a própria intervenção.
As responsabilidades devem ser descritas em termos operacionais: quem recolhe a informação, quem aprova uma exceção e quem tem autoridade para interromper um trabalho inseguro ou ineficaz. A resposta deve ser visível para o pessoal, os fornecedores e os órgãos de supervisão.
Vendor evaluation and measurable testing
Procurement should examine interoperability, accessibility, information security, model updates, audit logs and exit options. Marketing demonstrations rarely represent day-to-day accuracy on local tasks.
Practical example: Require vendors to demonstrate performance on representative documents and provide a documented process for challenging or correcting outputs.
Os decisores têm de ponderar tanto os benefícios imediatos como as obrigações futuras. A despesa de capital é apenas uma parte do custo; a formação, a manutenção, a substituição, a acessibilidade e o tratamento de reclamações podem determinar se o investimento continua a ser útil.
Uma análise de opções credível inclui uma alternativa de menor custo e um cenário em que a procura ou o desempenho esperados não se concretizam. Publicar os pressupostos permite rever o plano sem ocultar a incerteza inicial.
Organismos públicos e projetos financiados por doadores
Choosing a safe first pilot
Start with a narrow use case where errors are reversible and human review is practical. Define baseline cost and quality before adding automation, and do not scale simply because staff like the interface.
Practical example: A donor project can test AI-assisted project-report drafting using public data, measuring factual corrections and staff hours over a fixed trial.
As evidências devem ser interpretadas ao nível adequado. Uma melhoria numa instalação, num bairro ou numa organização pode não se transferir para outra com infraestruturas, pessoal, incentivos ou exposição ao risco diferentes.
Os gestores de projeto podem testar a transferibilidade enumerando as condições que fizeram funcionar uma intervenção anterior e verificando se essas condições existem localmente. Se não existirem, adaptem a conceção em vez de copiar o resultado de destaque.
Institutional capability and oversight
Effective adoption needs staff literacy, procurement rules, records management and a route for citizens to challenge decisions. Training alone is insufficient if system ownership and budgets are unclear.
Practical example: Build an implementation plan covering policy, training, data governance, evaluation and independent assurance before production use.
O envolvimento das partes interessadas é mais útil antes de as grandes opções ficarem fechadas. A consulta pode revelar restrições operacionais, práticas informais e efeitos distributivos que não constam dos dados administrativos.
Registe não só quantas pessoas foram consultadas, mas também que preocupações alteraram a conceção. Quando as opiniões divergirem, explique o compromisso adotado e o mecanismo de recurso ou de reclamação, numa linguagem que as pessoas afetadas consigam compreender.
Exercício de implementação resolvido: reúna um grupo multidisciplinar com um responsável pelo serviço, um especialista técnico, um representante da área financeira e uma pessoa capaz de falar em nome dos utilizadores previstos. Imponha-lhes uma restrição realista: financiamento limitado, informação incompleta e uma decisão a tomar no prazo de um mês. Peça a cada participante que proponha uma ação, uma alternativa e uma razão pela qual a sua opção preferida poderia falhar. Acordem o teste seguro mais pequeno possível, o respetivo orçamento, as evidências que justificariam o alargamento e a condição que levaria à suspensão. Na revisão seguinte, separe o que a equipa efetivamente observou dos pressupostos e opiniões. Documente as razões para mudar de rumo. Este exercício é deliberadamente mais exigente do que um workshop geral de sensibilização, porque põe à prova os direitos de decisão, a qualidade das evidências, a viabilidade operacional e a capacidade de reagir a constatações desfavoráveis. Pode ser adaptado a uma única instalação ou a um programa com vários organismos, sem pretender que todos os contextos tenham as mesmas restrições.
For ministries and project implementation units, the next step is to convert these principles into a short action plan. Identify one bottleneck, the evidence needed to verify it, the responsible official, the first corrective action and the date on which management will review the result. The Risalat Diagnostic Centre can support a structured initial discussion, while the programme categories provide routes for developing staff capability. Organisations requiring tailored support can request a proposal.
Fontes originais selecionadas para verificação adicional:
- NIST Generative AI Profile
- NIST AI Risk Management Framework
- UNESCO Recommendation on the Ethics of AI
Perguntas frequentes
What does ChatGPT and generative AI mean in practice?
Significa fazer escolhas adaptadas ao contexto, com base em informação fiável, responsabilidades claras e resultados mensuráveis, em vez de depender de uma única tecnologia ou política.
How should an organisation begin work on ChatGPT and generative AI?
Estabeleça uma situação de referência, consulte os grupos afetados, compare as opções viáveis e designe um responsável pela decisão antes de despender recursos significativos.
Quais são os principais riscos a gerir?
Entre os riscos comuns contam-se dados frágeis, capacidade insuficiente, custos de funcionamento ocultos, efeitos desiguais e falta de responsabilização pelas ações corretivas.
Como podem as equipas de projeto medir os resultados?
Utilize um pequeno conjunto de indicadores de base e de acompanhamento, verifique os registos de forma independente sempre que possível e reporte as limitações a par dos resultados alcançados.
Como podem os organismos públicos aplicar estas lições?
Integre a abordagem na contratação, nos orçamentos, nas salvaguardas, no reporte e no funcionamento a longo prazo, com responsáveis identificados e revisões periódicas pela gestão.
Ver
- Open Contracting Partnership Open Contracting Partnership
- OCDE (Organização para a Cooperação e Desenvolvimento Económico) OCDE
Know people who should read this? Become an Ambassador or write with Risalat.
Parceiros no sucesso dos projetos desde 2011: diagnósticos, apoio consultivo e aprendizagem aplicada para ministérios, organismos públicos e equipas de projeto.
Precisa de ajuda para pôr isto em prática?
Comece com um diagnóstico gratuito de 10 minutos ou fale com os nossos especialistas.



