مهندسی سامانههای عامل‌محور | Agentic AI Systems
وقتی مدل فقط پاسخ نمی‌دهد و اجازه استفاده از ابزار، نگهداری State یا اجرای Action پیدا می‌کند، مسئله اصلی دیگر Prompt نیست؛ اختیار، کنترل، قابلیت ردیابی و شکست امن است. این کورس دقیقاً روی همین لایه تمرکز دارد.
هفته‌های ۹ تا ۱۵ گام
از استفاده از ابزار تا عملیات و دفاع نهایی
چرخه تصمیم‌گیری عامل
تعریف ابزارهای مجاز عامل، طراحی چرخه تصمیم و توقف، کنترل زمان اجرا و جلوگیری از اجرای تکراری ناخواسته؛ خروجی هفته یک جریان ابزارمحور با ردپای کامل اجراست.
وضعیت اجرا و تأیید انسانی
نگهداری وضعیت اجرا، تعیین مرز حافظه، ایجاد نقاط توقف و تأیید انسانی و امکان ادامه امن فرایند؛ خروجی هفته یک گردش‌کار قابل توقف، بازبینی و ازسرگیری است.
هماهنگی اجزا و جریان کار
تقسیم مسئولیت بین اجزای تخصصی فقط در صورت نیاز؛ طراحی تحویل کار، اطلاعات مشترک، تلاش مجدد و شرط توقف و سپس ارزیابی اینکه عامل ابزار درست را در زمان درست فراخوانی کرده است.
MCP
اتصال استاندارد عامل به ابزارها و منابع با MCP؛ تعریف قرارداد داده، روش ارتباط، سطح دسترسی و مرز اعتماد و محدودکردن ابزارهای مجاز.
حفاظ‌های ایمنی و آزمون خصمانه
طراحی حفاظ برای ورودی، خروجی و ابزارها؛ مقابله با تزریق دستور مخرب، نشت اطلاعات و داده شخصی و تبدیل سناریوهای خطر به آزمون‌های تکرارپذیر ایمنی.
ارزیابی عامل هوشمند
ارزیابی نتیجه نهایی کار، ابزارهای مورد انتظار، مسیر تصمیم عامل، بازخورد واقعی و هزینه اجرا؛ خروجی هفته گزارش ارزیابی عامل و برنامه عملیات است.
عملیات و دفاع فنی
شبیه‌سازی اجرای واقعی، کارهای پس‌زمینه، بازگشت نسخه، مدیریت رخداد و تحلیل علت شکست؛ در پایان سیستم در یک سناریوی عملیاتی آزمایش و از تصمیم‌های فنی آن دفاع می‌شود.
پروژه‌محور
Agent را در Sandbox می‌شکنید تا کنترلش را یاد بگیرید
دستیار تحقیق بازار و آماده‌سازی پیام فروش با تأیید انسانی
تحقیق، استفاده از ابزار، Review، Approval و پایش سیستم و مدل
از درخواست تا اقدام کنترل‌شده
عامل اطلاعات را جمع می‌کند، پیش‌نویس می‌سازد، مسیر اجرا را Trace می‌کند و پیش از اقدام بیرونی به Approval انسانی می‌رسد. اتصال‌ها در محیط Sandbox/Mock کنترل می‌شوند.
تمرین کنترل و شکست
هر Lab یک حالت شکست را قابل مشاهده می‌کند
Tool Contract و Trace Review
Schema، Timeout، Idempotency، Failure و Cost را روی فراخوانی ابزار بررسی می‌کنید.
Prompt Injection و MCP Permission
Indirect Injection، Tool فهرست ابزارهای مجاز، Untrusted Output و مرز سطح دسترسی را تمرین می‌کنید.
Guardrail و Red Team
سناریوهای PII، Exfiltration، Escalation و اقدام بدون تأیید را به تست Regression تبدیل می‌کنید.
LLM Application خود را به سامانه عامل‌محور تبدیل کنید
همان پروژه کورس اول، حالا با Action و Control
Portfolio Continuation
Agent، Tool و Operations را به پروژه اضافه کنید
در صورت مناسب‌بودن مسئله، استفاده از ابزار، Approval، MCP، Guardrail، Trace و Agent Eval را به پروژه اضافه می‌کنید و در پایان شبیه‌سازی محیط واقعی و دفاع فنی دارید.
- ۱Tool Contract و چرخه تصمیم‌گیری عامل
- ۲State/Approval و هماهنگی اجزا و جریان کار
- ۳MCP، Safety و Regression
- ۴Agent Eval، راهنمای اقدام عملیاتی و دفاع نهایی
خروجی کورس
شواهد کنترل مهم‌تر از تعداد Agentهاست
گردش‌کار عامل هوشمند
Loop، State، Tool Contract، Retry و Stop Condition.
تأیید انسانی و ردپای تصمیم
Checkpoint، مرز سطح دسترسی و مسیر قابل ردیابی تصمیم.
اتصال استاندارد ابزارها با MCP
Tool/Resource Contract، فهرست ابزارهای مجاز و مرز اعتماد.
آزمون ایمنی و جلوگیری از بازگشت خطا
Injection، PII، Exfiltration، Guardrail و Red-team Cases.
ارزیابی و عملیات عامل هوشمند
Task Outcome، Trajectory، Cost، پایش سیستم و مدل، راهنمای اقدام عملیاتی، Incident و گزارش تحلیل رخداد.
ورود مستقیم به کورس دوم
اگر کورس اول را نگذرانده‌اید، خروجی معادل لازم است
برای ورود مستقیم، صرفاً آشنایی با Prompt کافی نیست. باید بتوانید یک LLM Application قابل ارزیابی و اجرا را بفهمید و توسعه دهید.
پایه LLM Application
- با LLM API، خروجی ساختاریافته و مدیریت خطا کار کرده‌ام.
- Eval Dataset و معیار کیفیت برای یک کاربرد LLM را می‌فهمم.
- بردار معنایی، بازیابی اطلاعات و RAG را در سطح اجرایی می‌شناسم.
- می‌توانم یک API ساده را اجرا و Debug کنم.
- Git، Terminal و Docker برایم ابزارهای روزمره یا آشنا هستند.
آشنایی قبلی با Agent
- فراخوانی ابزار یا فراخوانی تابع را تجربه کرده‌ام.
- State/Memory یا Workflowهای چندمرحله‌ای برایم آشناست.
- با مفاهیم Trace، Guardrail یا MCP آشنایی اولیه دارم.
مرزبندی
Agent بیشتر، الزاماً سیستم بهتر نیست
Multi-agent فقط وقتی استفاده می‌شود که مسئله آن را توجیه کند. هدف، طراحی کنترل‌شده Action و Evidence است، نه نمایش تعداد Agent یا Framework.
| حوزه | جایگاه |
|---|---|
| فراخوانی ابزار، State، Approval و هماهنگی اجزا و جریان کار | محوری |
| MCP و مرز سطح دسترسی | عملی |
| Prompt Injection، PII و Guardrails | محوری |
| Agent Evaluation و Trace | محوری |
| شبیه‌سازی محیط واقعی و Incident | عملی |
| اقدام واقعی پرریسک و بدون تأیید | خارج از پروژه آموزشی؛ Sandbox و Approval الزامی است |
عامل هوشمند را ابزارمند کنید، نه بی‌اختیار
در این کورس یک LLM Application را به سیستمی تبدیل می‌کنید که می‌تواند ابزار فراخوانی کند و یک جریان چندمرحله‌ای را پیش ببرد، اما سطح اختیار، تأیید انسانی، دسترسی ابزار و ردپای اجرا آن روشن است.
پروژه مرجع «عامل تحقیق بازار و آماده‌سازی پیام ارتباط با مشتری» شواهد را جمع می‌کند، Draft می‌سازد و فقط پس از تأیید انسانی اجازه اقدام دارد. تمرین‌ها نیز روی قرارداد ابزار، حافظه و وضعیت اجرا، MCP، تزریق دستور مخرب، سوءاستفاده از ابزار و ارزیابی مسیر تصمیم عامل متمرکزند.
پیش از ثبت‌نام
پرسش‌های پرتکرار
آیا باید کورس اول را گذرانده باشم؟
اگر خروجی معادل دارید، ورود مستقیم ممکن است. باید LLM API، Evaluation، RAG و ساخت یک Application ساده را در سطح اجرایی بفهمید؛ در غیر این صورت کورس اول مسیر پیشنهادی است.
آیا Multi-agent محور اصلی دوره است؟
خیر. ابتدا مسئله با ساده‌ترین Workflow قابل کنترل حل می‌شود. Manager/Handoff/Specialist زمانی وارد می‌شود که تقسیم مسئولیت ارزش معماری داشته باشد.
MCP فقط معرفی می‌شود یا اجرا هم دارد؟
معماری MCP، Tool/Resource/Prompt، Schema، Transport، Permission و مرز اعتماد بررسی می‌شود و یک Integration کنترل‌شده همراه با فهرست ابزارهای مجاز ساخته می‌شود.
آیا Agent اجازه اقدام واقعی دارد؟
در تمرین‌های آموزشی، عملیات پرریسک در Sandbox یا Mock انجام می‌شود و نقاط حساس تأیید انسانی دارند. هدف یادگیری طراحی اختیار و کنترل است.
خروجی نهایی چیست؟
سامانه عامل‌محور کنترل‌شده با Tool/MCP، Trace، Eval، Guardrail، Operations Plan، شبیه‌سازی محیط واقعی و دفاع فنی.
قدم بعدی
به مدل اجازه اقدام بدهید، اما اختیارش را مهندسی کنید
برنامه هفت هفته را ببینید یا گزینه‌های ثبت‌نام را بررسی کنید.
نقد و بررسی‌ها
هنوز بررسی‌ای ثبت نشده است.