معماری، سیاست و رفتار مورد انتظار
نمای معماری، promptها و سیاست‌ها، فهرست ابزارها، APIها و MCP Serverها، طبقه‌بندی داده‌ها، اقدام‌های پرریسک و رفتار مورد انتظار باید برای طراحی کنترل‌ها روشن باشند.
خدمات امنیت سایبری
طراحی AI Guardrails و امن‌سازی MCP برای Agentها
کنترل ورودی کاربر، خروجی مدل و دسترسی Agent به ابزارها و MCP Serverها؛ با سیاست روشن، ارزیابی قابل تکرار و مسیر ارجاع به انسان.
دامنهٔ خدمت
Guardrail باید بر اساس ریسک واقعی Agent طراحی شود
معماری Agent، داده‌های درگیر، ابزارها، MCP Client و Server، اقدام‌های مجاز، گروه‌های کاربری و سناریوهای خطا بررسی می‌شوند؛ نه اینکه یک فیلتر عمومی برای همهٔ کاربردها در نظر گرفته شود.
کنترل فنی در کنار تصمیم کسب‌وکار
امن‌آپس کنترل‌های توافق‌شده را طراحی و در دامنهٔ پروژه پیاده‌سازی می‌کند؛ تعریف سیاست کسب‌وکار، اعتماد به MCP Serverها، سطح دسترسی ابزارها و تصمیم‌های نیازمند تأیید انسانی با سازمان است.
خروجی‌ها
خروجی‌های قابل ارزیابی و نگه‌داری
مدل تهدید و ماتریس سیاست
نگاشت ورودی‌ها، خروجی‌ها، ابزارها، داده‌ها و نقاط تأیید به کنترل‌های مورد نیاز.
Guardrailهای ورودی، خروجی، ابزار و MCP
نمونه یا یکپارچه‌سازی توافق‌شده برای کنترل تعامل کاربر، پاسخ Agent، دسترسی به داده و فراخوانی ابزارهای MCP.
سناریوهای ارزیابی و runbook
آزمون‌های قابل تکرار، روش رسیدگی به خطا، پایش و مسیر ارجاع اقدام‌های حساس به انسان.
فرآیند همکاری
شناخت کاربرد، مدل تهدید، طراحی و ارزیابی
پس از شناخت کاربرد، معماری و اتصال‌های MCP، مرزهای اعتماد، تهدیدها و سیاست‌ها مشخص می‌شوند. کنترل‌ها مرحله‌ای پیاده‌سازی و با سناریوهای عملکردی و خصمانه ارزیابی می‌شوند.
هیچ Guardrail یا MCP Server به‌تنهایی رفتار امن یا درست Agent را تضمین نمی‌کند. احراز هویت، مجوزدهی، حداقل دسترسی، ثبت رویداد و تأیید انسانی برای اقدام‌های پرریسک باید در کنار آن قرار بگیرند.
تهدیدها و راهکارهای Agentic AI از OWASPFAQ
سؤال‌های رایج دربارهٔ طراحی AI Guardrails و امنیت MCP
AI Guardrail دقیقاً چه چیزی را کنترل می‌کند؟
بسته به معماری می‌تواند ورودی کاربر، خروجی مدل، دادهٔ قابل دسترسی، فراخوانی ابزار و اقدام‌های پرریسک Agent را بررسی یا محدود کند.
آیا content filtering به‌تنهایی کافی است؟
خیر. کنترل دسترسی، محدودیت ابزارها، مرزبندی داده، پایش و تأیید انسانی برای تصمیم‌های حساس هم بخشی از طراحی امن هستند.
امن‌سازی MCP در این خدمت شامل چه بخش‌هایی است؟
مرز اعتماد میان Agent، MCP Client، Server، ابزارها و داده‌ها بررسی می‌شود. احراز هویت، مجوز هر ابزار، اعتبارسنجی ورودی و خروجی، محدودیت دسترسی، ثبت رویداد و تأیید اقدام‌های حساس بر اساس معماری در scope قرار می‌گیرند.
آیا Guardrail رفتار امن Agent را تضمین می‌کند؟
خیر. Guardrail ریسک‌های تعریف‌شده را کاهش می‌دهد و باید با تغییر مدل، ابزارها، داده‌ها و تهدیدها دوباره ارزیابی و به‌روزرسانی شود.
قدم بعدی
برای بررسی نیاز امنیتی سازمان آماده‌اید؟
نیاز و محدودهٔ سازمانتان را با ما در میان بگذارید تا دربارهٔ مسیر مناسب—محصول، ارزیابی یا مشاوره—گفت‌وگو کنیم.