Ciencia y tecnología

ChatGPT y la IA generativa: capacidades, límites y gobernanza

An evidence-led guide to ChatGPT and generative AI, with concrete implementation choices, risks and lessons for public agencies and development projects.

RCIRisalat Consultants International
17 de abril de 2023 · 8 min de lectura · Actualizado el 1 nov 2026
ChatGPT y la IA generativa: capacidades, límites y gobernanza8 min de lectura

Ideas clave

  • What ChatGPT does and how it works. ChatGPT is a conversational service built around large language models that generate responses from patterns learned during training and subsequent development.
  • Where generative AI adds value. Public organisations can use AI to prepare first drafts of meeting minutes, public guidance, standard correspondence and briefing structures.
  • Risks that require active controls. Models can invent sources, misinterpret numerical tables or produce uneven results across languages and groups.
  • Cómo adquirir y gobernar la IA. El marco de gestión de riesgos de IA del NIST y su perfil de IA generativa ofrecen estructuras útiles para mapear daños, medir el rendimiento y gestionar riesgos.
  • Agencias públicas y proyectos financiados por donantes. Comience con un caso de uso limitado en el que los errores sean reversibles y la revisión humana sea práctica.

In short: Practical guide to ChatGPT and generative AI: key decisions, risks, examples and lessons for ministries, public agencies and donor-funded project teams.

In short: Chatgpt and generative ai is best understood through practical decisions, institutional responsibilities and evidence of results. This guide explains the mechanisms, trade-offs and safeguards that determine whether policies and projects deliver lasting benefits.

ChatGPT and Generative AI: Capabilities, Limits and Governance is not a single solution or a universal recipe. Results depend on the context, the capabilities of implementing organisations and the people affected. The sections below distinguish what is established, what must be tested locally and what project teams can do before making irreversible commitments.

What ChatGPT does and how it works

Modelos de lenguaje e interfaces conversacionales

ChatGPT is a conversational service built around large language models that generate responses from patterns learned during training and subsequent development. It can draft, classify, summarise and help with code, but plausible language is not proof of accuracy.

Practical example: Ask it to summarise a policy document, then verify each important statement against the actual policy. Keep a record of the prompt, source version and human reviewer.

Un primer paso útil es distinguir la condición observable de su causa presunta. Los equipos deben documentar quién aportó la evidencia, qué periodo abarca y qué explicación alternativa podría producir el mismo patrón. Así las recomendaciones son más defendibles cuando cambian las circunstancias.

Antes de decidir, identifique a quién toma la decisión, a los usuarios afectados y el coste de equivocarse. Un pequeño piloto o el análisis de casos comparables suele ser menos costoso que adoptar un sistema permanente sobre la base de una presentación.

Multimodal work and tool use

Contemporary AI systems may work with text, images, documents and other inputs, depending on the product and permissions. Some can use connected tools to retrieve information or complete workflows, which changes both their usefulness and their security exposure.

Practical example: A procurement officer can extract requirements from a scanned tender, but should confirm quantities, dates and exceptions directly from the source before publishing.

La implementación debe comenzar con una línea de base y una descripción del flujo de trabajo actual. Sin esa línea de base, una mejora posterior podría reflejar simplemente una demanda distinta, un aumento temporal de la financiación o un cambio en la forma de informar, y no la intervención en sí.

Las responsabilidades deben redactarse en términos operativos: quién recopila la información, quién aprueba una excepción y quién tiene autoridad para detener un trabajo inseguro o ineficaz. La respuesta debe ser visible para el personal, los proveedores y los órganos de supervisión.

Where generative AI adds value

Redacción y análisis administrativo

Public organisations can use AI to prepare first drafts of meeting minutes, public guidance, standard correspondence and briefing structures. Staff time saved is valuable only if the review process prevents fabricated citations and incorrect advice.

Practical example: Pilot AI on anonymised, low-risk correspondence and compare correction time, accuracy and accessibility with the existing process.

Los responsables de la toma de decisiones deben considerar tanto los beneficios inmediatos como las obligaciones posteriores. El gasto de capital es solo una parte del coste; la formación, el mantenimiento, la sustitución, la accesibilidad y la atención de reclamaciones pueden determinar si la inversión sigue siendo útil.

Una evaluación de opciones creíble incluye una alternativa de menor coste y un escenario en el que la demanda o el desempeño esperados no se materializan. Publicar los supuestos permite revisar el plan sin ocultar la incertidumbre inicial.

Education, software and citizen services

AI can create learning exercises, explain code and assist help desks. It should not be treated as a substitute for teachers, qualified clinicians, caseworkers or formal eligibility decisions.

Practical example: A service desk can offer AI-assisted answers restricted to an approved knowledge base, with escalation to a human for uncertain or sensitive cases.

La evidencia debe interpretarse en el nivel adecuado. Una mejora en una instalación, un barrio o una organización puede no ser transferible a otra con infraestructuras, personal, incentivos o exposición al riesgo diferentes.

Los gestores de proyecto pueden comprobar la transferibilidad enumerando las condiciones que hicieron funcionar una intervención anterior y verificando si existen a nivel local. Si no existen, adapte el diseño en lugar de copiar el resultado más llamativo.

Risks that require active controls

Hallucinations, bias and overconfidence

Los modelos pueden inventar fuentes, malinterpretar tablas numéricas o producir resultados irregulares en diferentes idiomas y grupos. Una respuesta segura puede ser errónea incluso cuando la pregunta es sencilla.

Practical example: Use a test set containing difficult local-language queries, conflicting documents and deliberately missing information. Score abstention and escalation as well as correctness.

Participación de las partes interesadas resulta más útil antes de que se cierren las decisiones importantes. La consulta puede revelar limitaciones operativas, prácticas informales y efectos distributivos que no aparecen en los datos administrativos.

Registre no solo cuántas personas fueron consultadas, sino qué inquietudes modificaron el diseño. Cuando las opiniones discrepen, explique la contrapartida elegida y el mecanismo de recurso o de reclamación en un lenguaje que las personas afectadas puedan entender.

Privacy, security and intellectual property

Sensitive data entered into an external system may be processed under terms that differ from an institution’s requirements. Uploaded documents can contain personal data, confidential bids or malicious instructions.

Practical example: Before a pilot, approve data classes, retention settings, access rights and incident response. Never upload identifiable patient records or sealed bids without a lawful and secure arrangement.

Un primer paso útil es distinguir la condición observable de su causa presunta. Los equipos deben documentar quién aportó la evidencia, qué periodo abarca y qué explicación alternativa podría producir el mismo patrón. Así las recomendaciones son más defendibles cuando cambian las circunstancias.

Antes de decidir, identifique a quién toma la decisión, a los usuarios afectados y el coste de equivocarse. Un pequeño piloto o el análisis de casos comparables suele ser menos costoso que adoptar un sistema permanente sobre la base de una presentación.

Lista de verificación para la decisión:

  • Defina el problema y las personas afectadas.
  • Confirme la línea de base y sus limitaciones.
  • Compare al menos dos opciones viables.
  • Asigne un responsable designado a cada riesgo importante.
  • Especifique un resultado medible y una fecha de revisión.

How to procure and govern AI

Risk assessment and human accountability

The NIST AI Risk Management Framework and its generative AI profile offer useful structures for mapping harms, measuring performance and managing risks. Accountability remains with the deploying institution.

Practical example: Create an AI use-case register identifying owner, purpose, affected groups, permitted data, reviewer and shutdown procedure.

La implementación debe comenzar con una línea de base y una descripción del flujo de trabajo actual. Sin esa línea de base, una mejora posterior podría reflejar simplemente una demanda distinta, un aumento temporal de la financiación o un cambio en la forma de informar, y no la intervención en sí.

Las responsabilidades deben redactarse en términos operativos: quién recopila la información, quién aprueba una excepción y quién tiene autoridad para detener un trabajo inseguro o ineficaz. La respuesta debe ser visible para el personal, los proveedores y los órganos de supervisión.

Vendor evaluation and measurable testing

Procurement should examine interoperability, accessibility, information security, model updates, audit logs and exit options. Marketing demonstrations rarely represent day-to-day accuracy on local tasks.

Practical example: Require vendors to demonstrate performance on representative documents and provide a documented process for challenging or correcting outputs.

Los responsables de la toma de decisiones deben considerar tanto los beneficios inmediatos como las obligaciones posteriores. El gasto de capital es solo una parte del coste; la formación, el mantenimiento, la sustitución, la accesibilidad y la atención de reclamaciones pueden determinar si la inversión sigue siendo útil.

Una evaluación de opciones creíble incluye una alternativa de menor coste y un escenario en el que la demanda o el desempeño esperados no se materializan. Publicar los supuestos permite revisar el plan sin ocultar la incertidumbre inicial.

Organismos públicos y proyectos financiados por donantes

Choosing a safe first pilot

Start with a narrow use case where errors are reversible and human review is practical. Define baseline cost and quality before adding automation, and do not scale simply because staff like the interface.

Practical example: A donor project can test AI-assisted project-report drafting using public data, measuring factual corrections and staff hours over a fixed trial.

La evidencia debe interpretarse en el nivel adecuado. Una mejora en una instalación, un barrio o una organización puede no ser transferible a otra con infraestructuras, personal, incentivos o exposición al riesgo diferentes.

Los gestores de proyecto pueden comprobar la transferibilidad enumerando las condiciones que hicieron funcionar una intervención anterior y verificando si existen a nivel local. Si no existen, adapte el diseño en lugar de copiar el resultado más llamativo.

Institutional capability and oversight

Effective adoption needs staff literacy, procurement rules, records management and a route for citizens to challenge decisions. Training alone is insufficient if system ownership and budgets are unclear.

Practical example: Build an implementation plan covering policy, training, data governance, evaluation and independent assurance before production use.

La participación de las partes interesadas es más útil antes de que se cierren las decisiones importantes. La consulta puede poner de manifiesto restricciones operativas, prácticas informales y efectos distributivos que no aparecen en los datos administrativos.

Registre no solo cuántas personas fueron consultadas, sino qué inquietudes modificaron el diseño. Cuando las opiniones discrepen, explique la contrapartida elegida y el mecanismo de recurso o de reclamación en un lenguaje que las personas afectadas puedan entender.

Ejercicio práctico de implementación: Reúna a un grupo multifuncional con un responsable del servicio, un especialista técnico, un representante de finanzas y una persona capaz de hablar en nombre de los usuarios previstos. Plantéeles una restricción realista: financiación limitada, información incompleta y una decisión que debe tomarse en el plazo de un mes. Pida a cada participante que proponga una acción, una alternativa y un motivo por el que su opción preferida podría fracasar. Acuerden la prueba segura más pequeña posible, su presupuesto, la evidencia que justificaría ampliarla y la condición que llevaría a suspenderla. En la siguiente revisión, separe lo que el equipo observó realmente de los supuestos y las opiniones. Documente los motivos de cualquier cambio de rumbo. Este ejercicio es deliberadamente más exigente que un taller general de sensibilización, porque pone a prueba los derechos de decisión, la calidad de la evidencia, la viabilidad operativa y la capacidad de reaccionar ante hallazgos adversos. Puede adaptarse a una instalación concreta o a un programa con varios organismos sin pretender que todos los contextos tengan las mismas restricciones.

For ministries and project implementation units, the next step is to convert these principles into a short action plan. Identify one bottleneck, the evidence needed to verify it, the responsible official, the first corrective action and the date on which management will review the result. The Risalat Diagnostic Centre can support a structured initial discussion, while the programme categories provide routes for developing staff capability. Organisations requiring tailored support can request a proposal.

Selección de fuentes originales para su verificación:


Preguntas frecuentes

What does ChatGPT and generative AI mean in practice?

Significa tomar decisiones adaptadas al contexto, basadas en información fiable, responsabilidades claras y resultados medibles, en lugar de depender de una única tecnología o política.

How should an organisation begin work on ChatGPT and generative AI?

Establezca una línea de base, consulte a los grupos afectados, compare las opciones viables y asigne un responsable de la decisión antes de comprometer recursos significativos.

¿Cuáles son los principales riesgos que hay que gestionar?

Entre los riesgos habituales figuran los datos débiles, la capacidad insuficiente, los costes operativos ocultos, los efectos desiguales y la falta de rendición de cuentas sobre las medidas correctivas.

¿Cómo pueden los equipos de proyecto medir los resultados?

Utilice un conjunto reducido de indicadores de línea de base y de seguimiento, verifique los registros de forma independiente cuando sea posible e informe de las limitaciones junto con los logros.

¿Cómo pueden los organismos públicos aplicar estas lecciones?

Integre el enfoque en la contratación, los presupuestos, las salvaguardas, la información y las operaciones a largo plazo, con responsables designados y revisiones periódicas por la dirección.

Ver

Compartir con su equipo

Know people who should read this? Become an Ambassador or write with Risalat.

Risalat Consultants International

Socios para el éxito de los proyectos desde 2011: diagnósticos, asesoría y aprendizaje aplicado para ministerios, organismos públicos y equipos de proyecto.

¿Necesita ayuda para llevar esto a la práctica?

Empiece con un diagnóstico gratuito de 10 minutos o hable con nuestros expertos.

Siga leyendo