Наука и технологии

ChatGPT и генеративный ИИ: возможности, ограничения и управление

An evidence-led guide to ChatGPT and generative AI, with concrete implementation choices, risks and lessons for public agencies and development projects.

RCIRisalat Consultants International
17 апреля 2023 · 8 мин чтения · Обновлено 1 нояб. 2026
ChatGPT и генеративный ИИ: возможности, ограничения и управление8 мин чтения

Ключевые выводы

  • Что делает ChatGPT и как он работает. ChatGPT , это диалоговый сервис на базе крупных языковых моделей, которые генерируют ответы на основе закономерностей, изученных в ходе обучения и дальнейшего развития.
  • Where generative AI adds value. Public organisations can use AI to prepare first drafts of meeting minutes, public guidance, standard correspondence and briefing structures.
  • Risks that require active controls. Models can invent sources, misinterpret numerical tables or produce uneven results across languages and groups.
  • Как осуществлять закупки ИИ и управлять ими. Структура управления рисками ИИ NIST и ее профиль генеративного ИИ предлагают полезные инструменты для выявления вреда, измерения эффективности и управления рисками.
  • Государственные ведомства и проекты, финансируемые донорами. Начните с узкого сценария использования, где ошибки обратимы, а ручная проверка целесообразна.

In short: Practical guide to ChatGPT and generative AI: key decisions, risks, examples and lessons for ministries, public agencies and donor-funded project teams.

In short: Chatgpt and generative ai is best understood through practical decisions, institutional responsibilities and evidence of results. This guide explains the mechanisms, trade-offs and safeguards that determine whether policies and projects deliver lasting benefits.

ChatGPT and Generative AI: Capabilities, Limits and Governance is not a single solution or a universal recipe. Results depend on the context, the capabilities of implementing organisations and the people affected. The sections below distinguish what is established, what must be tested locally and what project teams can do before making irreversible commitments.

What ChatGPT does and how it works

Языковые модели и диалоговые интерфейсы

ChatGPT - это диалоговый сервис, созданный на основе больших языковых моделей, которые генерируют ответы на основе закономерностей, изученных во время обучения и последующей разработки. Он может составлять проекты, классифицировать, обобщать и помогать с кодом, но правдоподобный язык не является доказательством точности.

Practical example: Ask it to summarise a policy document, then verify each important statement against the actual policy. Keep a record of the prompt, source version and human reviewer.

Полезный первый шаг состоит в том, чтобы отличить наблюдаемое состояние от его предполагаемой причины. Командам следует фиксировать, кто предоставил данные, какой период они охватывают и какое альтернативное объяснение может дать ту же картину. Это делает рекомендации более обоснованными при изменении обстоятельств.

Прежде чем принимать решение, определите, кто его принимает, кого оно затрагивает и чего будет стоить ошибка. Небольшой пилотный проект или анализ сопоставимых случаев часто обходится дешевле, чем внедрение постоянной системы под впечатлением от презентации.

Multimodal work and tool use

Contemporary AI systems may work with text, images, documents and other inputs, depending on the product and permissions. Some can use connected tools to retrieve information or complete workflows, which changes both their usefulness and their security exposure.

Practical example: A procurement officer can extract requirements from a scanned tender, but should confirm quantities, dates and exceptions directly from the source before publishing.

Реализацию следует начинать с исходного уровня и описания текущего порядка работы. Без такого исходного уровня последующее улучшение может объясняться изменением спроса, временным увеличением финансирования или изменением отчетности, а не самим мероприятием.

Обязанности следует формулировать в операционных терминах: кто собирает информацию, кто утверждает исключения и кто вправе остановить небезопасную или неэффективную работу. Ответ должен быть понятен сотрудникам, поставщикам и надзорным органам.

Where generative AI adds value

Административное нормотворчество и анализ

Public organisations can use AI to prepare first drafts of meeting minutes, public guidance, standard correspondence and briefing structures. Staff time saved is valuable only if the review process prevents fabricated citations and incorrect advice.

Practical example: Pilot AI on anonymised, low-risk correspondence and compare correction time, accuracy and accessibility with the existing process.

Руководителям необходимо учитывать как немедленные выгоды, так и последующие обязательства. Капитальные затраты составляют лишь часть стоимости; от обучения, обслуживания, замены, доступности и рассмотрения жалоб может зависеть, останутся ли инвестиции полезными.

Достоверный анализ вариантов включает более дешевую альтернативу и сценарий, при котором ожидаемый спрос или результаты не реализуются. Публикация допущений позволяет пересмотреть план, не скрывая исходной неопределенности.

Education, software and citizen services

AI can create learning exercises, explain code and assist help desks. It should not be treated as a substitute for teachers, qualified clinicians, caseworkers or formal eligibility decisions.

Practical example: A service desk can offer AI-assisted answers restricted to an approved knowledge base, with escalation to a human for uncertain or sensitive cases.

Фактические данные следует интерпретировать на правильном уровне. Улучшение на одном объекте, в одном районе или одной организации может не повториться там, где иные инфраструктура, кадры, стимулы или подверженность рискам.

Руководители проектов могут проверить переносимость опыта, перечислив условия, благодаря которым прежнее мероприятие сработало, и выяснив, существуют ли эти условия на месте. Если нет, адаптируйте решение, а не копируйте громкий результат.

Risks that require active controls

Hallucinations, bias and overconfidence

Модели могут создавать источники, неверно интерпретировать числовые таблицы или давать неравномерные результаты на разных языках и среди разных групп. Уверенный ответ может быть ошибочным даже при простом вопросе.

Практический пример: используйте тестовый набор, содержащий сложные запросы на местном языке, противоречащие друг другу документы и заведомо отсутствующую информацию. Оценивайте отказ от ответа и эскалацию наравне с правильностью.

Взаимодействие с заинтересованными сторонами наиболее полезны до того, как будут приняты ключевые решения. Консультации позволяют выявить операционные ограничения, неформальные практики и распределительные эффекты, которые не отражены в административных данных.

Фиксируйте не только число опрошенных, но и то, какие опасения изменили проект. Если мнения расходятся, объясните найденный компромисс и механизм обжалования или подачи жалоб языком, понятным затронутым людям.

Privacy, security and intellectual property

Sensitive data entered into an external system may be processed under terms that differ from an institution’s requirements. Uploaded documents can contain personal data, confidential bids or malicious instructions.

Practical example: Before a pilot, approve data classes, retention settings, access rights and incident response. Never upload identifiable patient records or sealed bids without a lawful and secure arrangement.

Полезный первый шаг состоит в том, чтобы отличить наблюдаемое состояние от его предполагаемой причины. Командам следует фиксировать, кто предоставил данные, какой период они охватывают и какое альтернативное объяснение может дать ту же картину. Это делает рекомендации более обоснованными при изменении обстоятельств.

Прежде чем принимать решение, определите, кто его принимает, кого оно затрагивает и чего будет стоить ошибка. Небольшой пилотный проект или анализ сопоставимых случаев часто обходится дешевле, чем внедрение постоянной системы под впечатлением от презентации.

Контрольный список для принятия решений:

  • Определите проблему и тех, кого она затрагивает.
  • Подтвердите исходный уровень и его ограничения.
  • Сравните как минимум два реализуемых варианта.
  • Назначьте ответственного за каждый крупный риск.
  • Определите измеримый результат и дату проверки.

How to procure and govern AI

Оценка рисков и ответственность человека

The NIST AI Risk Management Framework and its generative AI profile offer useful structures for mapping harms, measuring performance and managing risks. Accountability remains with the deploying institution.

Practical example: Create an AI use-case register identifying owner, purpose, affected groups, permitted data, reviewer and shutdown procedure.

Реализацию следует начинать с исходного уровня и описания текущего порядка работы. Без такого исходного уровня последующее улучшение может объясняться изменением спроса, временным увеличением финансирования или изменением отчетности, а не самим мероприятием.

Обязанности следует формулировать в операционных терминах: кто собирает информацию, кто утверждает исключения и кто вправе остановить небезопасную или неэффективную работу. Ответ должен быть понятен сотрудникам, поставщикам и надзорным органам.

Vendor evaluation and measurable testing

Procurement should examine interoperability, accessibility, information security, model updates, audit logs and exit options. Marketing demonstrations rarely represent day-to-day accuracy on local tasks.

Practical example: Require vendors to demonstrate performance on representative documents and provide a documented process for challenging or correcting outputs.

Руководителям необходимо учитывать как немедленные выгоды, так и последующие обязательства. Капитальные затраты составляют лишь часть стоимости; от обучения, обслуживания, замены, доступности и рассмотрения жалоб может зависеть, останутся ли инвестиции полезными.

Достоверный анализ вариантов включает более дешевую альтернативу и сценарий, при котором ожидаемый спрос или результаты не реализуются. Публикация допущений позволяет пересмотреть план, не скрывая исходной неопределенности.

Государственные ведомства и проекты, финансируемые донорами

Choosing a safe first pilot

Start with a narrow use case where errors are reversible and human review is practical. Define baseline cost and quality before adding automation, and do not scale simply because staff like the interface.

Практический пример: Проект при поддержке донора может протестировать подготовку отчетов по проекту с помощью ИИ с использованием общедоступных данных, измеряя исправления фактических данных и затраченные человеко-часы в течение фиксированного испытательного срока.

Фактические данные следует интерпретировать на правильном уровне. Улучшение на одном объекте, в одном районе или одной организации может не повториться там, где иные инфраструктура, кадры, стимулы или подверженность рискам.

Руководители проектов могут проверить переносимость опыта, перечислив условия, благодаря которым прежнее мероприятие сработало, и выяснив, существуют ли эти условия на месте. Если нет, адаптируйте решение, а не копируйте громкий результат.

Институциональный потенциал и надзор

Effective adoption needs staff literacy, procurement rules, records management and a route for citizens to challenge decisions. Training alone is insufficient if system ownership and budgets are unclear.

Practical example: Build an implementation plan covering policy, training, data governance, evaluation and independent assurance before production use.

Взаимодействие с заинтересованными сторонами наиболее полезно до того, как ключевые решения будут закреплены. Консультации помогают выявить операционные ограничения, неформальные практики и распределительные эффекты, которых нет в административных данных.

Фиксируйте не только число опрошенных, но и то, какие опасения изменили проект. Если мнения расходятся, объясните найденный компромисс и механизм обжалования или подачи жалоб языком, понятным затронутым людям.

Практическое упражнение по реализации: соберите межфункциональную группу, в которую входят владелец услуги, технический специалист, представитель финансовой службы и человек, способный выразить позицию целевых пользователей. Задайте им реалистичное ограничение: ограниченное финансирование, неполная информация и решение, которое нужно принять в течение месяца. Попросите каждого участника предложить одно действие, одну альтернативу и одну причину, по которой предпочтительный вариант может не сработать. Договоритесь о минимальном безопасном тесте, его бюджете, доказательствах, которые оправдают расширение, и условии, при котором тест будет приостановлен. На следующей проверке отделите то, что команда действительно наблюдала, от допущений и мнений. Задокументируйте причины изменения курса. Это упражнение намеренно сложнее обычного ознакомительного семинара, поскольку проверяет полномочия по принятию решений, качество данных, операционную реализуемость и способность реагировать на неблагоприятные выводы. Его можно адаптировать как для отдельного объекта, так и для межведомственной программы, не делая вид, что во всех условиях действуют одни и те же ограничения.

For ministries and project implementation units, the next step is to convert these principles into a short action plan. Identify one bottleneck, the evidence needed to verify it, the responsible official, the first corrective action and the date on which management will review the result. The Risalat Diagnostic Centre can support a structured initial discussion, while the programme categories provide routes for developing staff capability. Organisations requiring tailored support can request a proposal.

Избранные первоисточники для дополнительной проверки:


Часто задаваемые вопросы

What does ChatGPT and generative AI mean in practice?

Это означает принимать решения с учетом контекста на основе надежной информации, четкого распределения ответственности и измеримых результатов, а не полагаться на одну технологию или меру политики.

How should an organisation begin work on ChatGPT and generative AI?

Прежде чем тратить значительные ресурсы, установите исходный уровень, проконсультируйтесь с затронутыми группами, сравните реализуемые варианты и назначьте ответственного за решение.

Какими основными рисками нужно управлять?

К типичным рискам относятся слабые данные, недостаточная квалификация, скрытые эксплуатационные расходы, неравные последствия и отсутствие ответственности за корректирующие действия.

Как проектным группам измерять результаты?

Используйте небольшой набор исходных и последующих показателей, по возможности проверяйте записи независимо и сообщайте об ограничениях наряду с достижениями.

Как государственные органы могут применить эти уроки?

Встройте подход в закупки, бюджеты, меры защиты, отчетность и долгосрочную эксплуатацию, назначив ответственных и предусмотрев периодические управленческие проверки.

Смотреть

Поделиться с командой

Know people who should read this? Become an Ambassador or write with Risalat.

Risalat Consultants International

Партнеры в успехе проектов с 2011 года: диагностика, консультационная поддержка и прикладное обучение для министерств, государственных ведомств и проектных команд.

Нужна помощь, чтобы применить это на практике?

Начните с бесплатной 10-минутной диагностики или обратитесь к нашим экспертам.

Читайте также

Цифровая стратегия4 мар. 2026 · 16 мин чтения

Кибербезопасность в госсекторе: критические уязвимости, угрожающие государственным цифровым услугам

Кибербезопасность стала одной из основ цифрового управления, поскольку правительства сталкиваются со все более изощренными киберугрозами, направленными на конфиденциальные…

Читать →
Образование7 янв. 2025 · 7 мин чтения

Как виртуальная реальность в образовании меняет динамику учебного процесса

Виртуальная реальность в образовании меняет динамику учебного процесса и приносит пользу и ученикам, и учителям: успешные практические примеры в образовательных…

Читать →