مالکیت، نسخهبندی و مدیریت رخداد ایجنت
برای ایجنت سازمانی مالک پاسخگو، بسته نسخه، مسیر توقف، رسیدگی به رخداد و تحویل انسانی مستند کن؛ پایش فنی را با حاکمیت عملیات اشتباه نگیر.
بعد از این درس میتوانی
- برای چهار تصمیم کلیدی یک جدول
RACIبا مسئول اجرا، پاسخگوی واحد و جانشین قابل شناسایی بسازد. (C05-I03، C06-I05) - برای یک انتشار، نسخه دانش، سیاست، پرامپت، مدل و قرارداد ابزار را ثبت و وضعیت آزموننشده را پنهان نکند. (C03-I05، C06-I01)
- در چهار از پنج رخداد ساختگی، ترتیب مهار، اطلاعرسانی، ارجاع، بازگشت و بازبینی را درست انتخاب کند. (C05-I05، C06-I04)
- تفاوت خطای محتوایی با خطای زیرساختی را توضیح دهد و شاهد مستقل بخواهد. (C02-I01، C06-I02)
- یک برگه تحویل امن و برنامه قطع اختیار را بدون اجرای واقعی طراحی کند. (C06-I03، C06-I05)
چرا این درس مهم است
موقعیت ساختگی در ایران: فروشگاه اینترنتی «دریچهکالا» از یک پاسخیار برای وضعیت مرجوعی استفاده میکند. یک سیاست بازپرداخت تغییر میکند، اما دستیار از سند قدیمی پاسخ میدهد؛ زیرساخت سالم است و درخواستها با کد 200 برمیگردند. هیچکس نمیداند مدیر محصول، کارشناس قوانین یا پشتیبان شب مسئول توقف و اطلاعرسانی است.
[اصل پایدار] ایجنت «همکار پاسخگو» یا شخصیت حقوقی جایگزین شرکت نیست. در پرونده Moffatt v. Air Canada، مرجع حل اختلاف کانادایی شرکت را درباره پاسخ اشتباه چتبات مسئول شناخت؛ این حکم مربوط به همان دعوا در بریتیش کلمبیاست و قاعده حقوقی عمومی برای ایران نیست. همچنین از رأی، نوع مدل مولد آن چتبات قابل استنتاج نیستsrc-abasrc-aircanada.
مفاهیم کلیدی
- [اصل پایدار] `Accountable Owner`: شخص مشخصی که حق تصمیم توقف و پذیرش ریسک را دارد؛ نمیتوان مسئولیت را به «تیم هوش مصنوعی» مبهم واگذار کرد.
- [اصل پایدار] `RACI`: برای هر تصمیم
Responsibleاجراکننده،Accountableپاسخگو،Consultedمشاور وInformedمطلع را مشخص میکند؛ یک نفر میتواند چند نقش داشته باشد. - [استاندارد] `Change Record`: درخواست تغییر، دلیل، داراییها و نسخهها، آزمون پیش از انتشار، تصویب و راه بازگشت.
- [استاندارد] `Incident Runbook`: شناسایی، مهار، ارجاع، اطلاعرسانی، بازیابی و گزارش پس از رخداد.
- [اصل پایدار] `Human Handoff`: تحویل مسئله و زمینه حداقلی مجاز به انسان، با وضعیت مشخص؛ صرف ارسال پیام «با پشتیبانی تماس بگیر» کافی نیست.
- [ابزار ـ بررسی 2026-11-07] `Git`/`n8n`: گزینه نگهداری تاریخچه و نسخه ورکفلو؛ انتخاب و اجرا خارج از این تمرین است.
ISO/IEC 42001 نظام مدیریت هوش مصنوعی و چرخه بهبود آن را تعریف میکند؛ NIST AI 600-1 برای ریسکهای هوش مصنوعی مولد اقدامهای پیشنهادی و داوطلبانه دارد. متن کامل الزامهای استاندارد را نباید صرفاً از خلاصه وب حدس زدsrc-isosrc-nist.
مدل ذهنی
ایجنت را مانند شیفت خدمات مشتری ببین. حتی اگر پاسخیار شبانهروز کار کند، باید مسئول شیفت، دفترچه رویه نسخهدار، شماره تماس اضطراری، حدود اختیار و تحویل شیفت داشته باشد.
| دارایی | فقط نسخه فایل کافی است؟ | ثبت لازم در انتشار |
|---|---|---|
| مدل | خیر؛ سرویس میتواند تغییر کند | شناسه نسخه/نام ارائهدهنده و تاریخ تأییدشده؛ اگر تثبیت نسخه ممکن نیست، خطر را ثبت کن |
| پرامپت | خیر؛ قوانین خارجی هم اثر دارند | شناسه تغییر و صاحب تصمیم |
| پایگاه دانش | خیر؛ محتوای سند و تاریخ مهم است | شناسه/هش منابع مرجع، مالک، تاریخ اعتبار |
| قرارداد ابزار | خیر؛ رفتار API و مجوزها اثر دارند | نسخه Schema، دامنه مجاز، فهرست عملیات |
| سیاست و فرایند | خیر؛ تأییدکنندگان نیز تغییر میکنند | نسخه سیاست، زمان اجرا و مسئول انتشار |
گامبهگام
گام ۱: مالک و نقش پاسخگو را مشخص کن
| تصمیم/کار | R اجراکننده | A پاسخگو | C مشاور | I مطلع |
|---|---|---|---|---|
| سیاست بازپرداخت | کارشناس حقوق/عملیات | مدیر کسبوکار مرجوعی | مالی و حقوقی | فروش و پشتیبانی |
| انتشار نسخه پاسخیار | نگهدارنده سامانه | مالک سرویس | امنیت و مالک سیاست | اپراتور شیفت |
| توقف اضطراری | اپراتور مجاز شیفت | مالک سرویس / جانشین تعیینشده | امنیت/حقوقی | پشتیبانی و واحد متاثر |
| اطلاعرسانی رخداد | مسئول ارتباطات | مدیر رخداد | حقوقی و مالک داده | کاربران متاثر |
RACI جدول نمونه آموزشی است؛ عنوان نقشها را میتوان با سازمان بومی تطبیق داد، ولی مالک پاسخگو و جانشین باید نام، کانال تماس و اختیار واقعی داشته باشند.
گام ۲: بسته نسخه تحویلی را کامل کن
release_id: RET-2026-11-07-R1 # نمونه ساختگی
model_id: approved-provider-model-or-unknown
system_prompt_rev: p04
knowledge_snapshot: kb-2026-11-06-sha256-...
policy_rev: refund-policy-v3
tool_schema_rev: api-v2
access_policy_rev: scope-read-only-v1
owner: business-role-id
approver: operations-role-id
rollback_target: RET-2026-11-06-R0
review_status: NOT_TESTED # تا وقتی واقعاً آزمون نشده[استاندارد] هیچ نسخهای «تستشده» اعلام نمیشود مگر شواهد آزمون همان بسته ثبت شود. اگر ارائهدهنده نسخه مدل را قابل تثبیت نمیکند، آن را un-pinned ثبت کن و دوباره ارزیابی را به انتشار گره بزن. اینجا اجرای تست فنی را به agent-evals ارجاع بده.
گام ۳: چرخه تغییر دانش و سیاست را ببند
- ثبت درخواست تغییر و مقایسه تاریخ اعتبار دو سند؛ صاحب هر سیاست باید معلوم باشد.
- مسدودکردن پاسخ قطعی هنگام تعارض دو سیاست؛ استفاده از
POLICY_CONFLICTو ارجاع به مسئول. - پیوستن سند، نسخه و مالک به هر پاسخ حساس؛ فقط لینکدادن به منبع قدیمی کافی نیست.
- آزمون موارد تغییر سیاست در محیط جدا، ثبت تصویب، انتشار محدود و امکان بازگشت.
- بازبینی پس از انتشار و اعلام باز بودن رخدادهای حلنشده.
گام ۴: برنامه رخداد و تحویل را تعریف کن
| وضعیت | رفتار سازمانی | شاهد |
|---|---|---|
DETECTED | وقفه در اقدام پرریسک، ثبت شناسه رخداد | زمان و نوع خطا؛ بدون داده حساس اضافی |
CONTAINED | خاموشکردن قابلیت یا تغییر مسیر به حالت فقطخواندنی/انسان | اپراتور و زمان مهار |
ESCALATED | تحویل پرونده به مالک/جانشین با خلاصه و منابع | شناسه تیکت و دریافتکننده |
RECOVERING | بازگشت به نسخه تأییدشده یا ادامه توقف | شناسه نسخه برگشتی و بازبینی مستقل |
CLOSED | بررسی علت، اصلاح فرایند، آموزش و ثبت اثر | گزارش پس از رخداد و تصویب اختتام |
آستانه مدت مهار و سطح رخداد باید متناسب با پیامد واقعی سازمان تعیین شود؛ برای تمرین میتوان «پیش از پایان شیفت نمونه» نوشت. ادعای «خاموشی قطعی در ۶۰ ثانیه» بدون آزمون عملی قابل قبول نیست.
گام ۵: کلید توقف و مسیر بازگشت را روی کاغذ طراحی کن
Kill Switch باید اقدام ارسال، حذف یا تعهد مالی را از لایه اجرا مسدود کند، نه فقط در پرامپت بگوید «متوقف شو». در سناریوی قطع ارتباط، صف بررسی انسانی باید شناسه درخواست، وضعیت، آخرین منبع و مالک را داشته باشد. اجرای واقعی برای آزمون به محیط مجاز نیاز داردsrc-owaspsrc-nist-playbook.
مثالها
نمونه ساختگی: ساعت ۱۶:۱۰ بخشنامه نسخه ۴ بازپرداخت تصویب شده؛ تا ۱۶:۴۵ مخزن پاسخیار هنوز نسخه ۳ است. مدیر محتوا باید تغییر را تیکت کند، اپراتور پاسخهای مرتبط را به «نیازمند بررسی» ببرد، مالک سرویس درباره توقف تصمیم بگیرد و فقط پس از تأیید همان نسخه، انتشار ثبت شود.
نمونه واقعی با احتیاط: مورد سفارشگیری صوتی مکدونالد و IBM در بیش از ۱۰۰ شعبه، در ژوئن ۲۰۲۴ به پایان همکاری آزمایشی رسید. پایگاه رخداد به خطاهای شناسایی سفارش اشاره میکند؛ ادعای دقیق «۸۰٪ در برابر آستانه ۹۵٪» در روایتهای ثانویه دیده میشود و برای آموزش، بهجای استناد قطعی به این دو عدد، از اصل ضرورت آزمون محیط واقعی و تحویل سریع استفاده کنsrc-mcd.
پیادهسازی عملی
فایلهای تحویل عملیاتی بدون ابزار پولی
OWNER.md: مالک پاسخگو + جانشین + اختیار و راه تماس
RELEASE.md: شناسه بسته، نسخه سیاست/دانش/مدل/ابزار، تصویب، آزمون انجامشده یا نشده
RUNBOOK.md: علائم هشدار، توقف اقدام، ارجاع، فهرست ذینفعان، بازیابی، گزارش بعد از رخداد
HANDOVER.md: وضعیت پروندههای باز، زمان انتقال، گیرنده، پیوست مجاز، شناسه پیگیری
REVIEW_LOG.md: تاریخ تغییر، دلیل، تصمیم، شاهد و تأییدکنندهاین اسناد میتوانند در فایل متنی محلی ساخته شوند. نیازی به ایجاد حساب ابری، اشتراک پولی، ارسال پیام واقعی یا دسترسی به داده مشتری نیست.
[ابزار ـ بررسی 2026-11-07] اگر در آینده از Git یا n8n استفاده شد، تاریخچه تغییر میتواند کمک کند، اما جایگزین امضای کسبوکاری و کنترل واقعی در محل اجرا نمیشود. برنامه مدیریت کلید و جداسازی محیط در config-secrets استsrc-gitguardian.
اشتباههای رایج
- «مالک، تیم فنی است»؛ نام فرد و جانشین تعیین نشده است.
- بررسی سلامت فقط با
HTTP 200؛ پاسخ سیاست منسوخ میتواند ظاهراً سالم باشد. - تغییر همزمان پرامپت، سند و ابزار بدون شناسه بسته انتشار؛ علت خطا بعداً قابل بازیابی نیست.
- خاموشکردن UI بدون قطع مجوز اقدام در سرور؛ فراخوانیهای باز ممکن است ادامه یابند.
- ارسال نسخه قدیمی پیشنویس به تأییدکننده؛ تأیید باید به همان نسخه و محتوای قابل پیگیری متصل باشد.
- ثبت نام و شماره تماس واقعی کاربران در پرونده آموزشی؛ از داده ساختگی استفاده کن.
عیبیابی
ربات پاسخ سیاست بازپرداخت قبلی را میدهد اما وضعیت سرویس سبز است.
سند سیاست جدید به نسخه پایگاه دانش منتشرشده متصل نشده است.
زمان تصویب سیاست، شناسه سند در پاسخ و نسخه بسته انتشار را مقایسه کن.
پاسخ مرتبط را متوقف/به انسان ارجاع بده؛ پس از تطبیق داده و تصویب انتشار مجدد مجاز شود.
اپراتور خاموشکردن چت را اعلام کرده ولی یک پرداخت تکراری انجام شده است.
کلید توقف فقط لایه نمایش را بسته و صف/مجوز سرور باز مانده است.
لاگ شناسه درخواست و مرز اجرا را بررسی کن؛ داده حساس را حذف کن.
مجوز اقدام را در لایه اجرا مسدود کن؛ راهحل فنی در agent-governance-permissions و idempotency-integrity است.
نسخه جدید منتشر شده ولی نام مدیر تصویبکننده خالی است.
فرایند Change Management مالک تصمیم را الزام نمیکند.
بسته انتشار و جدول RACI را تطبیق بده.
انتشار را HOLD کن؛ نقش پاسخگو و شاهد تصویب لازم است.
ایمنی و حریم خصوصی
[اصل پایدار] تحویل انسانی باید حداقل داده لازم، مجوز گیرنده و تاریخ انقضای دسترسی را داشته باشد. در رخداد واقعی، نگهداری شواهد برای بررسی را از انتشار عمومی اطلاعات شخصی جدا کن.
[استاندارد] OWASP برای عاملها ریسکهای سوءاستفاده از ابزار، دسترسی بیشازحد و شکست زنجیرهای را تشریح میکند؛ NIST برای مدیریت رخداد پیشنهادهای سازگار با خطر ارائه میکند. اجرای کنترل باید بیرون مدل سنجیده شودsrc-owaspsrc-nist.
تمرین کوتاه
تمرین · 10 دقیقه
سناریوی ساختگی: پاسخیار امروز با سیاست بازپرداخت نسخه ۵ کار میکند ولی در صفحه رسمی شرکت نسخه ۶ اعلام شده است.
- سه اقدام فوری و ترتیبشان را بنویس.
- در جدول
RACIحداقل یکAو یکRبرای مهار معرفی کن. - دو مدرک لازم برای بازگشایی را بنویس.
معیار پذیرش: توقف پاسخ پرریسک قبل از اصلاح متن، مالک مشخص و دو سند نسخهدار.
راهحل نمونه
- ابتدا توقف/تحویل دستی، سپس ثبت رخداد و اطلاعرسانی، بعد تطبیق دانش و آزمون/تصویب نسخه جدید.
- اپراتور شیفت
R، مالک سرویس یا جانشینAاست. - شاهد: سند سیاست معتبر با مالک و شناسه انتشار آزمایششده؛ نبود تست با برچسب
NOT_TESTED.
چالش
تمرین · 30 دقیقه
تحویل ساختگی: تیم سهنفره یک پاسخیار مرجوعی دارد؛ یک روز کاری بدون ارتباط با مالک فنی سپری میشود. فرد جایگزین باید با اسناد تو بتواند تصمیم توقف بگیرد.
- یک
RACIبرای انتشار، پاسخگویی به مشتری، رخداد و بازیابی تهیه کن. - یک بسته انتشار شامل پنج جزء اصلی و وضعیت «آزموننشده» برای موارد بررسینشده بنویس.
- برگه
Incident Runbookبا پنج وضعیت، تصمیم اطلاعرسانی و دریافتکننده تحویل بساز. - دو تزریق فرضی خطا طراحی کن: سیاست قدیمی و توقف ناقص.
- برای هر خطا بگو چه شاهدی لازم است تا اجرای واقعی دوباره مجاز شود.
معیار پذیرش: نام مالک و جانشین، سند نسخهدار و مسیر قطع اختیار دیده شود؛ هیچ کنترل اجراشدهای ادعا نشود.
راهحل نمونه
- بازگشت بدون نسخه قابل تأیید یا بدون تأیید مالک مجاز نیست.
- قطع اقدام باید در سرویس مجاز سنجیده شود؛ خاموشی رابط کافی نیست.
- ارتباط با مشتری پس از بررسی اثر رخداد، با تأیید مسئول مربوط انجام میشود.
- تغییر سیاست بدون سنجش موردی و ثبت نسخه در انتشار جدید قابل قبول نیست.
پرسشهای سنجش
به مسئولیت، نسخه سند، مهار، ارجاع انسانی و قطع اختیار در عمل سازمانی پاسخ بده؛ پرسشهای فنی مستقل در AGT-302 هستند.
جمعبندی
- [اصل پایدار] هر ایجنت تولیدی به مالک پاسخگو، جانشین و حد اختیار نیاز دارد.
- [استاندارد] نسخه انتشار مجموعه مدل، پرامپت، دانش، سیاست و قرارداد ابزار است؛ تغییر آنها فرایند تصویب میخواهد.
- [استاندارد] رخداد، مهار و تحویل انسانی را جدا از پایش فنی طراحی کن.
- [ابزار ـ بررسی 2026-11-07] ابزار نسخهبندی تنها شاهد فنی تغییر است؛ تأیید سازمانی را جایگزین نمیکند.
در team-adoption-change به اثر این ساختار روی وظایف، آموزش کارکنان و ظرفیت کارشناسان رسیدگی میکنی.
پرسشهای سنجش
چه زمانی پاسخیار با `HTTP 200` هنوز ممکن است رخداد مهم داشته باشد؟
- وقتی سیاست منتشرشده منسوخ است ولی پاسخ موفق ارسال میشود
- وقتی زمان پاسخ کوتاه است
- وقتی هزینه توکن کم است
- وقتی کاربر فارسی مینویسد
پاسخ نمونه و معیار ارزیابی
- b ← تاخیر کم درباره اعتبار سیاست چیزی نمیگوید.
- c ← هزینه کم معیار اعتبار نیست.
- d ← زبان بهتنهایی رخداد را اثبات نمیکند.
سیاست تغییر کرده ولی فقط `prompt_rev` در نسخه انتشار ثبت شده؛ چه نقصی داری؟
release: p04 policy: refund-v6 kb: unknown tested: unknown
پاسخ نمونه و معیار ارزیابی
بسته مرکب ناقص است. knowledge_snapshot، policy_rev، tool_schema_rev، model_id و تأیید و راه بازگشت باید ثبت شوند؛ تا حل تعارض، پاسخ حساس متوقف شود.
- نسخه مرکب را توضیح دهد (1 امتیاز)
- دانش/سیاست را به انتشار پیوند دهد (1 امتیاز)
- توقف تا بررسی را بنویسد (1 امتیاز)
در ساعت غیراداری پاسخیار شروع به اعلام مبلغ نادرست میکند. چه کسی چه کاری را انجام میدهد؟
پاسخ نمونه و معیار ارزیابی
اپراتور مجاز اقدام را مهار و تیکت باز میکند (R)؛ مالک سرویس/جانشین درباره توقف و بازگشایی پاسخگو است (A)؛ مالی/حقوقی درباره اثر و اطلاعرسانی مشورت میدهد؛ کاربران متاثر طبق دستور مصوب مطلع میشوند.
- مالک و جانشین مشخص (1 امتیاز)
- ترتیب مهار، ارجاع و اطلاعرسانی (1 امتیاز)
- بستن اختیار خارج از پرامپت (1 امتیاز)
«خاموشکردن صفحه» و «ردکردن فراخوانی مالی در سرور» چه فرقی دارند؟
پاسخ نمونه و معیار ارزیابی
اولی ممکن است تنها نمای کاربر را خاموش کند؛ دومی مجوز عملیات را در مرز اجرا مسدود میکند. برای توقف ایمن، صفهای در حال اجرا و عملیات برگشتناپذیر هم باید طبق طراحی بررسی شوند.
- تفاوت لایه نمایش و اجرا (1 امتیاز)
- صف یا اقدام معلق را بررسی کند (1 امتیاز)
- آزمون و شاهد خاموشی طلب کند (1 امتیاز)
حداقل پنج قلم اطلاعات برای `HANDOVER.md` یک پرونده خطادار بنویس.
پاسخ نمونه و معیار ارزیابی
شناسه پرونده، وضعیت و اثر خطا، نسخه سیاست/دانش، اقدام انجامشده، مسئول گیرنده، زمان تحویل، اقدام بعدی و حداقل داده مجاز؛ از اطلاعات مشتری واقعی در تمرین استفاده نشود.
- شناسه و وضعیت (1 امتیاز)
- گیرنده و زمان (1 امتیاز)
- نسخه/گام بعدی و حداقلسازی داده (1 امتیاز)
ابزارها و جایگزینها
- ویرایشگر متن یا فایل Markdown محلی — مستندسازی پرونده و نوشتن تصمیمها بدون اتصال به داده واقعی — Notepad — LibreOffice Writer — کاغذ و قلم
- جدول محلی — ثبت شواهد، وضعیت دروازه و محاسبات قابل بازبینی — LibreOffice Calc — Excel آفلاین — جدول روی کاغذ
منابع
ISO/IEC 42001:2023 — Artificial intelligence management system ISO / IEC 2023-12؛ استاندارد بینالمللی منتشرشده؛ جزئیات بندها فقط با متن مجاز استاندارد باید تفسیر شوند
Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1) US National Institute of Standards and Technology 2024-07؛ گزارش فنی دولتی با بررسی تحریریه NIST، نه مقاله ژورنالی؛ راهنمای داوطلبانه
AI Risk Management Framework Playbook NIST AI Resource Center صفحه رسمی پویا؛ بررسی 2026-11-07؛ توصیهها داوطلبانه و قابل بومیسازیاند، نه چکلیست اجباری
OWASP Top 10 for Agentic Applications for 2026 OWASP GenAI Security Project 2025-12-09؛ چارچوب جامعه متخصصان با بازبینی جمعی، نه استاندارد حقوقی یا مقاله علمی
Moffatt v. Air Canada, 2024 BCCRT 149 British Columbia Civil Resolution Tribunal / CanLII 2024-02-14؛ رأی مرجع حل اختلاف درباره این پرونده؛ قابلیت تعمیم حقوقی به ایران ندارد؛ پیوند متن رأی مستقلاً باز نشد، روایت با انجمن وکلای آمریکا تطبیق داده شد
BC Tribunal Confirms Companies Remain Liable for Information Provided by AI Chatbot American Bar Association 2024-02؛ تحلیل حقوقی حرفهای از رأی، بدون داوری پژوهشی
The State of Secrets Sprawl 2026 GitGuardian 2026؛ گزارش فروشنده امنیت، بدون داوری علمی؛ ارقام به دامنه روش گزارش محدودند
McDonald’s Reportedly Ends IBM Partnership After AI Drive-Thru Ordering Errors AI Incident Database / MIT AI Risk Repository 2024 incident؛ بانک گردآوری رخداد و بخشی از تحلیل ماشینی؛ رقم دقت مستقل تأیید نشده