Agent Ownership, Versioning and Incident Management

Define accountable owners, composite releases, incident response, shutdown and human handoffs without conflating operational governance with technical telemetry.

بعد از این درس می‌توانی

  • برای چهار تصمیم کلیدی یک جدول RACI با مسئول اجرا، پاسخ‌گوی واحد و جانشین قابل شناسایی بسازد. (C05-I03، C06-I05)
  • برای یک انتشار، نسخه دانش، سیاست، پرامپت، مدل و قرارداد ابزار را ثبت و وضعیت آزمون‌نشده را پنهان نکند. (C03-I05، C06-I01)
  • در چهار از پنج رخداد ساختگی، ترتیب مهار، اطلاع‌رسانی، ارجاع، بازگشت و بازبینی را درست انتخاب کند. (C05-I05، C06-I04)
  • تفاوت خطای محتوایی با خطای زیرساختی را توضیح دهد و شاهد مستقل بخواهد. (C02-I01، C06-I02)
  • یک برگه تحویل امن و برنامه قطع اختیار را بدون اجرای واقعی طراحی کند. (C06-I03، C06-I05)

چرا این درس مهم است

موقعیت ساختگی در ایران: فروشگاه اینترنتی «دریچه‌کالا» از یک پاسخ‌یار برای وضعیت مرجوعی استفاده می‌کند. یک سیاست بازپرداخت تغییر می‌کند، اما دستیار از سند قدیمی پاسخ می‌دهد؛ زیرساخت سالم است و درخواست‌ها با کد 200 برمی‌گردند. هیچ‌کس نمی‌داند مدیر محصول، کارشناس قوانین یا پشتیبان شب مسئول توقف و اطلاع‌رسانی است.

[اصل پایدار] ایجنت «همکار پاسخ‌گو» یا شخصیت حقوقی جایگزین شرکت نیست. در پرونده Moffatt v. Air Canada، مرجع حل اختلاف کانادایی شرکت را درباره پاسخ اشتباه چت‌بات مسئول شناخت؛ این حکم مربوط به همان دعوا در بریتیش کلمبیاست و قاعده حقوقی عمومی برای ایران نیست. همچنین از رأی، نوع مدل مولد آن چت‌بات قابل استنتاج نیستsrc-abasrc-aircanada.

مفاهیم کلیدی

  • [اصل پایدار] `Accountable Owner`: شخص مشخصی که حق تصمیم توقف و پذیرش ریسک را دارد؛ نمی‌توان مسئولیت را به «تیم هوش مصنوعی» مبهم واگذار کرد.
  • [اصل پایدار] `RACI`: برای هر تصمیم Responsible اجراکننده، Accountable پاسخ‌گو، Consulted مشاور و Informed مطلع را مشخص می‌کند؛ یک نفر می‌تواند چند نقش داشته باشد.
  • [استاندارد] `Change Record`: درخواست تغییر، دلیل، دارایی‌ها و نسخه‌ها، آزمون پیش از انتشار، تصویب و راه بازگشت.
  • [استاندارد] `Incident Runbook`: شناسایی، مهار، ارجاع، اطلاع‌رسانی، بازیابی و گزارش پس از رخداد.
  • [اصل پایدار] `Human Handoff`: تحویل مسئله و زمینه حداقلی مجاز به انسان، با وضعیت مشخص؛ صرف ارسال پیام «با پشتیبانی تماس بگیر» کافی نیست.
  • [ابزار ـ بررسی 2026-11-07] `Git`/`n8n`: گزینه نگهداری تاریخچه و نسخه ورک‌فلو؛ انتخاب و اجرا خارج از این تمرین است.

ISO/IEC 42001 نظام مدیریت هوش مصنوعی و چرخه بهبود آن را تعریف می‌کند؛ NIST AI 600-1 برای ریسک‌های هوش مصنوعی مولد اقدام‌های پیشنهادی و داوطلبانه دارد. متن کامل الزام‌های استاندارد را نباید صرفاً از خلاصه وب حدس زدsrc-isosrc-nist.

مدل ذهنی

ایجنت را مانند شیفت خدمات مشتری ببین. حتی اگر پاسخ‌یار شبانه‌روز کار کند، باید مسئول شیفت، دفترچه رویه نسخه‌دار، شماره تماس اضطراری، حدود اختیار و تحویل شیفت داشته باشد.

داراییفقط نسخه فایل کافی است؟ثبت لازم در انتشار
مدلخیر؛ سرویس می‌تواند تغییر کندشناسه نسخه/نام ارائه‌دهنده و تاریخ تأییدشده؛ اگر تثبیت نسخه ممکن نیست، خطر را ثبت کن
پرامپتخیر؛ قوانین خارجی هم اثر دارندشناسه تغییر و صاحب تصمیم
پایگاه دانشخیر؛ محتوای سند و تاریخ مهم استشناسه/هش منابع مرجع، مالک، تاریخ اعتبار
قرارداد ابزارخیر؛ رفتار API و مجوزها اثر دارندنسخه Schema، دامنه مجاز، فهرست عملیات
سیاست و فرایندخیر؛ تأییدکنندگان نیز تغییر می‌کنندنسخه سیاست، زمان اجرا و مسئول انتشار

گام‌به‌گام

گام ۱: مالک و نقش پاسخ‌گو را مشخص کن

تصمیم/کارR اجراکنندهA پاسخ‌گوC مشاورI مطلع
سیاست بازپرداختکارشناس حقوق/عملیاتمدیر کسب‌وکار مرجوعیمالی و حقوقیفروش و پشتیبانی
انتشار نسخه پاسخ‌یارنگهدارنده سامانهمالک سرویسامنیت و مالک سیاستاپراتور شیفت
توقف اضطراریاپراتور مجاز شیفتمالک سرویس / جانشین تعیین‌شدهامنیت/حقوقیپشتیبانی و واحد متاثر
اطلاع‌رسانی رخدادمسئول ارتباطاتمدیر رخدادحقوقی و مالک دادهکاربران متاثر

RACI جدول نمونه آموزشی است؛ عنوان نقش‌ها را می‌توان با سازمان بومی تطبیق داد، ولی مالک پاسخ‌گو و جانشین باید نام، کانال تماس و اختیار واقعی داشته باشند.

گام ۲: بسته نسخه تحویلی را کامل کن

release_id: RET-2026-11-07-R1  # نمونه ساختگی
model_id: approved-provider-model-or-unknown
system_prompt_rev: p04
knowledge_snapshot: kb-2026-11-06-sha256-...
policy_rev: refund-policy-v3
tool_schema_rev: api-v2
access_policy_rev: scope-read-only-v1
owner: business-role-id
approver: operations-role-id
rollback_target: RET-2026-11-06-R0
review_status: NOT_TESTED  # تا وقتی واقعاً آزمون نشده

[استاندارد] هیچ نسخه‌ای «تست‌شده» اعلام نمی‌شود مگر شواهد آزمون همان بسته ثبت شود. اگر ارائه‌دهنده نسخه مدل را قابل تثبیت نمی‌کند، آن را un-pinned ثبت کن و دوباره ارزیابی را به انتشار گره بزن. اینجا اجرای تست فنی را به agent-evals ارجاع بده.

گام ۳: چرخه تغییر دانش و سیاست را ببند

  1. ثبت درخواست تغییر و مقایسه تاریخ اعتبار دو سند؛ صاحب هر سیاست باید معلوم باشد.
  2. مسدودکردن پاسخ قطعی هنگام تعارض دو سیاست؛ استفاده از POLICY_CONFLICT و ارجاع به مسئول.
  3. پیوستن سند، نسخه و مالک به هر پاسخ حساس؛ فقط لینک‌دادن به منبع قدیمی کافی نیست.
  4. آزمون موارد تغییر سیاست در محیط جدا، ثبت تصویب، انتشار محدود و امکان بازگشت.
  5. بازبینی پس از انتشار و اعلام باز بودن رخدادهای حل‌نشده.

گام ۴: برنامه رخداد و تحویل را تعریف کن

وضعیترفتار سازمانیشاهد
DETECTEDوقفه در اقدام پرریسک، ثبت شناسه رخدادزمان و نوع خطا؛ بدون داده حساس اضافی
CONTAINEDخاموش‌کردن قابلیت یا تغییر مسیر به حالت فقط‌خواندنی/انساناپراتور و زمان مهار
ESCALATEDتحویل پرونده به مالک/جانشین با خلاصه و منابعشناسه تیکت و دریافت‌کننده
RECOVERINGبازگشت به نسخه تأییدشده یا ادامه توقفشناسه نسخه برگشتی و بازبینی مستقل
CLOSEDبررسی علت، اصلاح فرایند، آموزش و ثبت اثرگزارش پس از رخداد و تصویب اختتام

آستانه مدت مهار و سطح رخداد باید متناسب با پیامد واقعی سازمان تعیین شود؛ برای تمرین می‌توان «پیش از پایان شیفت نمونه» نوشت. ادعای «خاموشی قطعی در ۶۰ ثانیه» بدون آزمون عملی قابل قبول نیست.

گام ۵: کلید توقف و مسیر بازگشت را روی کاغذ طراحی کن

Kill Switch باید اقدام ارسال، حذف یا تعهد مالی را از لایه اجرا مسدود کند، نه فقط در پرامپت بگوید «متوقف شو». در سناریوی قطع ارتباط، صف بررسی انسانی باید شناسه درخواست، وضعیت، آخرین منبع و مالک را داشته باشد. اجرای واقعی برای آزمون به محیط مجاز نیاز داردsrc-owaspsrc-nist-playbook.

مثال‌ها

نمونه ساختگی: ساعت ۱۶:۱۰ بخشنامه نسخه ۴ بازپرداخت تصویب شده؛ تا ۱۶:۴۵ مخزن پاسخ‌یار هنوز نسخه ۳ است. مدیر محتوا باید تغییر را تیکت کند، اپراتور پاسخ‌های مرتبط را به «نیازمند بررسی» ببرد، مالک سرویس درباره توقف تصمیم بگیرد و فقط پس از تأیید همان نسخه، انتشار ثبت شود.

نمونه واقعی با احتیاط: مورد سفارش‌گیری صوتی مک‌دونالد و IBM در بیش از ۱۰۰ شعبه، در ژوئن ۲۰۲۴ به پایان همکاری آزمایشی رسید. پایگاه رخداد به خطاهای شناسایی سفارش اشاره می‌کند؛ ادعای دقیق «۸۰٪ در برابر آستانه ۹۵٪» در روایت‌های ثانویه دیده می‌شود و برای آموزش، به‌جای استناد قطعی به این دو عدد، از اصل ضرورت آزمون محیط واقعی و تحویل سریع استفاده کنsrc-mcd.

پیاده‌سازی عملی

فایل‌های تحویل عملیاتی بدون ابزار پولی

OWNER.md: مالک پاسخ‌گو + جانشین + اختیار و راه تماس
RELEASE.md: شناسه بسته، نسخه سیاست/دانش/مدل/ابزار، تصویب، آزمون انجام‌شده یا نشده
RUNBOOK.md: علائم هشدار، توقف اقدام، ارجاع، فهرست ذی‌نفعان، بازیابی، گزارش بعد از رخداد
HANDOVER.md: وضعیت پرونده‌های باز، زمان انتقال، گیرنده، پیوست مجاز، شناسه پیگیری
REVIEW_LOG.md: تاریخ تغییر، دلیل، تصمیم، شاهد و تأییدکننده

این اسناد می‌توانند در فایل متنی محلی ساخته شوند. نیازی به ایجاد حساب ابری، اشتراک پولی، ارسال پیام واقعی یا دسترسی به داده مشتری نیست.

[ابزار ـ بررسی 2026-11-07] اگر در آینده از Git یا n8n استفاده شد، تاریخچه تغییر می‌تواند کمک کند، اما جایگزین امضای کسب‌وکاری و کنترل واقعی در محل اجرا نمی‌شود. برنامه مدیریت کلید و جداسازی محیط در config-secrets استsrc-gitguardian.

اشتباه‌های رایج

  • «مالک، تیم فنی است»؛ نام فرد و جانشین تعیین نشده است.
  • بررسی سلامت فقط با HTTP 200؛ پاسخ سیاست منسوخ می‌تواند ظاهراً سالم باشد.
  • تغییر هم‌زمان پرامپت، سند و ابزار بدون شناسه بسته انتشار؛ علت خطا بعداً قابل بازیابی نیست.
  • خاموش‌کردن UI بدون قطع مجوز اقدام در سرور؛ فراخوانی‌های باز ممکن است ادامه یابند.
  • ارسال نسخه قدیمی پیش‌نویس به تأییدکننده؛ تأیید باید به همان نسخه و محتوای قابل پیگیری متصل باشد.
  • ثبت نام و شماره تماس واقعی کاربران در پرونده آموزشی؛ از داده ساختگی استفاده کن.

عیب‌یابی

ربات پاسخ سیاست بازپرداخت قبلی را می‌دهد اما وضعیت سرویس سبز است.

سند سیاست جدید به نسخه پایگاه دانش منتشرشده متصل نشده است.

زمان تصویب سیاست، شناسه سند در پاسخ و نسخه بسته انتشار را مقایسه کن.

پاسخ مرتبط را متوقف/به انسان ارجاع بده؛ پس از تطبیق داده و تصویب انتشار مجدد مجاز شود.

اپراتور خاموش‌کردن چت را اعلام کرده ولی یک پرداخت تکراری انجام شده است.

کلید توقف فقط لایه نمایش را بسته و صف/مجوز سرور باز مانده است.

لاگ شناسه درخواست و مرز اجرا را بررسی کن؛ داده حساس را حذف کن.

مجوز اقدام را در لایه اجرا مسدود کن؛ راه‌حل فنی در agent-governance-permissions و idempotency-integrity است.

نسخه جدید منتشر شده ولی نام مدیر تصویب‌کننده خالی است.

فرایند Change Management مالک تصمیم را الزام نمی‌کند.

بسته انتشار و جدول RACI را تطبیق بده.

انتشار را HOLD کن؛ نقش پاسخ‌گو و شاهد تصویب لازم است.

ایمنی و حریم خصوصی

[اصل پایدار] تحویل انسانی باید حداقل داده لازم، مجوز گیرنده و تاریخ انقضای دسترسی را داشته باشد. در رخداد واقعی، نگهداری شواهد برای بررسی را از انتشار عمومی اطلاعات شخصی جدا کن.

[استاندارد] OWASP برای عامل‌ها ریسک‌های سوءاستفاده از ابزار، دسترسی بیش‌ازحد و شکست زنجیره‌ای را تشریح می‌کند؛ NIST برای مدیریت رخداد پیشنهادهای سازگار با خطر ارائه می‌کند. اجرای کنترل باید بیرون مدل سنجیده شودsrc-owaspsrc-nist.

تمرین کوتاه

تمرین · 10 دقیقه

سناریوی ساختگی: پاسخ‌یار امروز با سیاست بازپرداخت نسخه ۵ کار می‌کند ولی در صفحه رسمی شرکت نسخه ۶ اعلام شده است.

  1. سه اقدام فوری و ترتیبشان را بنویس.
  2. در جدول RACI حداقل یک A و یک R برای مهار معرفی کن.
  3. دو مدرک لازم برای بازگشایی را بنویس.

معیار پذیرش: توقف پاسخ پرریسک قبل از اصلاح متن، مالک مشخص و دو سند نسخه‌دار.

راه‌حل نمونه
  • ابتدا توقف/تحویل دستی، سپس ثبت رخداد و اطلاع‌رسانی، بعد تطبیق دانش و آزمون/تصویب نسخه جدید.
  • اپراتور شیفت R، مالک سرویس یا جانشین A است.
  • شاهد: سند سیاست معتبر با مالک و شناسه انتشار آزمایش‌شده؛ نبود تست با برچسب NOT_TESTED.

چالش

تمرین · 30 دقیقه

تحویل ساختگی: تیم سه‌نفره یک پاسخ‌یار مرجوعی دارد؛ یک روز کاری بدون ارتباط با مالک فنی سپری می‌شود. فرد جایگزین باید با اسناد تو بتواند تصمیم توقف بگیرد.

  1. یک RACI برای انتشار، پاسخ‌گویی به مشتری، رخداد و بازیابی تهیه کن.
  2. یک بسته انتشار شامل پنج جزء اصلی و وضعیت «آزمون‌نشده» برای موارد بررسی‌نشده بنویس.
  3. برگه Incident Runbook با پنج وضعیت، تصمیم اطلاع‌رسانی و دریافت‌کننده تحویل بساز.
  4. دو تزریق فرضی خطا طراحی کن: سیاست قدیمی و توقف ناقص.
  5. برای هر خطا بگو چه شاهدی لازم است تا اجرای واقعی دوباره مجاز شود.

معیار پذیرش: نام مالک و جانشین، سند نسخه‌دار و مسیر قطع اختیار دیده شود؛ هیچ کنترل اجراشده‌ای ادعا نشود.

راه‌حل نمونه
  • بازگشت بدون نسخه قابل تأیید یا بدون تأیید مالک مجاز نیست.
  • قطع اقدام باید در سرویس مجاز سنجیده شود؛ خاموشی رابط کافی نیست.
  • ارتباط با مشتری پس از بررسی اثر رخداد، با تأیید مسئول مربوط انجام می‌شود.
  • تغییر سیاست بدون سنجش موردی و ثبت نسخه در انتشار جدید قابل قبول نیست.

پرسش‌های سنجش

به مسئولیت، نسخه سند، مهار، ارجاع انسانی و قطع اختیار در عمل سازمانی پاسخ بده؛ پرسش‌های فنی مستقل در AGT-302 هستند.

جمع‌بندی

  • [اصل پایدار] هر ایجنت تولیدی به مالک پاسخ‌گو، جانشین و حد اختیار نیاز دارد.
  • [استاندارد] نسخه انتشار مجموعه مدل، پرامپت، دانش، سیاست و قرارداد ابزار است؛ تغییر آنها فرایند تصویب می‌خواهد.
  • [استاندارد] رخداد، مهار و تحویل انسانی را جدا از پایش فنی طراحی کن.
  • [ابزار ـ بررسی 2026-11-07] ابزار نسخه‌بندی تنها شاهد فنی تغییر است؛ تأیید سازمانی را جایگزین نمی‌کند.

در team-adoption-change به اثر این ساختار روی وظایف، آموزش کارکنان و ظرفیت کارشناسان رسیدگی می‌کنی.

پرسش‌های سنجش

چه زمانی پاسخ‌یار با `HTTP 200` هنوز ممکن است رخداد مهم داشته باشد؟

  • وقتی سیاست منتشرشده منسوخ است ولی پاسخ موفق ارسال می‌شود
  • وقتی زمان پاسخ کوتاه است
  • وقتی هزینه توکن کم است
  • وقتی کاربر فارسی می‌نویسد
پاسخ نمونه و معیار ارزیابی
  • b ← تاخیر کم درباره اعتبار سیاست چیزی نمی‌گوید.
  • c ← هزینه کم معیار اعتبار نیست.
  • d ← زبان به‌تنهایی رخداد را اثبات نمی‌کند.

سیاست تغییر کرده ولی فقط `prompt_rev` در نسخه انتشار ثبت شده؛ چه نقصی داری؟

release: p04
policy: refund-v6
kb: unknown
tested: unknown
پاسخ نمونه و معیار ارزیابی

بسته مرکب ناقص است. knowledge_snapshot، policy_rev، tool_schema_rev، model_id و تأیید و راه بازگشت باید ثبت شوند؛ تا حل تعارض، پاسخ حساس متوقف شود.

  • نسخه مرکب را توضیح دهد (1 امتیاز)
  • دانش/سیاست را به انتشار پیوند دهد (1 امتیاز)
  • توقف تا بررسی را بنویسد (1 امتیاز)

    در ساعت غیراداری پاسخ‌یار شروع به اعلام مبلغ نادرست می‌کند. چه کسی چه کاری را انجام می‌دهد؟

    پاسخ نمونه و معیار ارزیابی

    اپراتور مجاز اقدام را مهار و تیکت باز می‌کند (R)؛ مالک سرویس/جانشین درباره توقف و بازگشایی پاسخ‌گو است (A)؛ مالی/حقوقی درباره اثر و اطلاع‌رسانی مشورت می‌دهد؛ کاربران متاثر طبق دستور مصوب مطلع می‌شوند.

    • مالک و جانشین مشخص (1 امتیاز)
    • ترتیب مهار، ارجاع و اطلاع‌رسانی (1 امتیاز)
    • بستن اختیار خارج از پرامپت (1 امتیاز)

      «خاموش‌کردن صفحه» و «ردکردن فراخوانی مالی در سرور» چه فرقی دارند؟

      پاسخ نمونه و معیار ارزیابی

      اولی ممکن است تنها نمای کاربر را خاموش کند؛ دومی مجوز عملیات را در مرز اجرا مسدود می‌کند. برای توقف ایمن، صف‌های در حال اجرا و عملیات برگشت‌ناپذیر هم باید طبق طراحی بررسی شوند.

      • تفاوت لایه نمایش و اجرا (1 امتیاز)
      • صف یا اقدام معلق را بررسی کند (1 امتیاز)
      • آزمون و شاهد خاموشی طلب کند (1 امتیاز)

        حداقل پنج قلم اطلاعات برای `HANDOVER.md` یک پرونده خطادار بنویس.

        پاسخ نمونه و معیار ارزیابی

        شناسه پرونده، وضعیت و اثر خطا، نسخه سیاست/دانش، اقدام انجام‌شده، مسئول گیرنده، زمان تحویل، اقدام بعدی و حداقل داده مجاز؛ از اطلاعات مشتری واقعی در تمرین استفاده نشود.

        • شناسه و وضعیت (1 امتیاز)
        • گیرنده و زمان (1 امتیاز)
        • نسخه/گام بعدی و حداقل‌سازی داده (1 امتیاز)

          ابزارها و جایگزین‌ها

          • ویرایشگر متن یا فایل Markdown محلی — مستندسازی پرونده و نوشتن تصمیم‌ها بدون اتصال به داده واقعی — Notepad — LibreOffice Writer — کاغذ و قلم
          • جدول محلی — ثبت شواهد، وضعیت دروازه و محاسبات قابل بازبینی — LibreOffice Calc — Excel آفلاین — جدول روی کاغذ

          منابع

          ISO/IEC 42001:2023 — Artificial intelligence management system ISO / IEC 2023-12؛ استاندارد بین‌المللی منتشرشده؛ جزئیات بندها فقط با متن مجاز استاندارد باید تفسیر شوند

          Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1) US National Institute of Standards and Technology 2024-07؛ گزارش فنی دولتی با بررسی تحریریه NIST، نه مقاله ژورنالی؛ راهنمای داوطلبانه

          AI Risk Management Framework Playbook NIST AI Resource Center صفحه رسمی پویا؛ بررسی 2026-11-07؛ توصیه‌ها داوطلبانه و قابل بومی‌سازی‌اند، نه چک‌لیست اجباری

          OWASP Top 10 for Agentic Applications for 2026 OWASP GenAI Security Project 2025-12-09؛ چارچوب جامعه متخصصان با بازبینی جمعی، نه استاندارد حقوقی یا مقاله علمی

          Moffatt v. Air Canada, 2024 BCCRT 149 British Columbia Civil Resolution Tribunal / CanLII 2024-02-14؛ رأی مرجع حل اختلاف درباره این پرونده؛ قابلیت تعمیم حقوقی به ایران ندارد؛ پیوند متن رأی مستقلاً باز نشد، روایت با انجمن وکلای آمریکا تطبیق داده شد

          BC Tribunal Confirms Companies Remain Liable for Information Provided by AI Chatbot American Bar Association 2024-02؛ تحلیل حقوقی حرفه‌ای از رأی، بدون داوری پژوهشی

          The State of Secrets Sprawl 2026 GitGuardian 2026؛ گزارش فروشنده امنیت، بدون داوری علمی؛ ارقام به دامنه روش گزارش محدودند

          McDonald’s Reportedly Ends IBM Partnership After AI Drive-Thru Ordering Errors AI Incident Database / MIT AI Risk Repository 2024 incident؛ بانک گردآوری رخداد و بخشی از تحلیل ماشینی؛ رقم دقت مستقل تأیید نشده

          Course

          Agents in Organizations