ایجنت های هوش مصنوعی بیش از پیش وارد محیط های کاری شده اند. آنها اطلاعات را پردازش میکنند، برنامه اجرا می کنند، با API ها ارتباط می گیرند و بخش قابل توجهی از وظایف کارمندان را خودکار می کنند. اما همین قابلیت ها، در نبود کنترل های مناسب، میتوانند به مسیر نفوذ به دارایی های سازمان تبدیل شوند.
هکرها دیگر لزوما به یک بدافزار کامل نیاز ندارند. برخی حملات تنها با ارسال دستورات مخرب به عامل هوش مصنوعی انجام می شود؛ عاملی که از دسترسی های خودش برای اجرای اقدامات مخرب و سرقت اطلاعات استفاده میکند.
بنابراین امنیت هوش مصنوعی در سازمان به انتخاب ابزار معتبر یا شناختن ابزارهای مورد استفاده کارمندان محدود نمیشود. کنترل دسترسی، منبع دستورات، ابزارهای متصل و رفتار خود ایجنت هوش مصنوعی نیز بخشی از این سناریو هستند.
خبر خوب اینکه مهار بسیاری از این تهدیدها به خرید ابزار امنیتی تازه نیاز ندارد. قابلیت های آشنا مانند کنترل برنامه، فیلتر وب، EDR، تحلیل فایل و فیدهای تهدید می توانند بخش بزرگی از آنها را پوشش دهند.
ایجنت های هوش مصنوعی سایه ای، ابزارهایی که سازمان از آنها خبر ندارد
منظور از عوامل هوش مصنوعی سایه ای، ابزارها و سرویس هایی است که کارمندان بدون مجوز تیم IT یا تیم امنیت سازمان استفاده می کنند. این سرویس ها ممکن است خودشان کاملا مشروع باشند. مشکل جای دیگری است؛ سازمان نمی داند چه داده هایی در اختیار این ابزار قرار می گیرد، این داده ها کجا می روند و سرویس از چه منابعی استفاده می کند.
یک مثال ساده کافی است. کارمندی برای خلاصه سازی یک سند محرمانه سراغ یک سرویس هوش مصنوعی می رود، بدون آنکه بداند استفاده از این ابزار در سازمان ممنوع است.
برای مهار این وضعیت، چند اقدام پیشنهاد می شود:
- فهرستی از ابزارهای هوش مصنوعی مجاز تهیه کنید و آنرا به روز نگه دارید.
- با سیاست های کنترل برنامه و ابزارهای فیلتر وب، دسترسی به سایر سرویس ها را محدود کنید.
- مشخص کنید چه مجوزهایی برای پردازش داده ها باید در اختیار ابزار قرار گیرد.
- تعهدات قراردادی فروشنده در زمینه حفاظت از داده ها را بررسی کنید.
در راهکارهای سازمانی کسپرسکی، ماژول کنترل برنامه در Kaspersky Endpoint Security که از طریق Kaspersky Security Center مدیریت میشود، برای محدود کردن ابزارهای هوش مصنوعی کاربرد دارد. این ماژول دسته بندی «ابزارهای هوش مصنوعی» را ارایه می دهد و دو روش را در اختیار مدیر قرار می دهد: لیست سیاه برای مسدود کردن ابزارهایی که نباید استفاده شوند، و لیست سفید برای اجازه دادن تنها به ابزارهای صریحا مجاز.

نصب کننده های جعلی؛ تهدیدی فراتر از هوش مصنوعی
یکی از روش های حمله در سال ۲۰۲۶، استفاده از نصب کننده های جعلی ابزارهای هوش مصنوعی بود. سناریو آشناست. کاربر دنبال نصب یک ابزار هوش مصنوعی می گردد و روی تبلیغ مخرب یا لینکی کلیک می کند که او را به صفحه ای بسیار شبیه صفحه رسمی توسعه دهنده می برد.
صفحه جعلی از کاربر میخواهد دستور خاصی را در ترمینال سیستم اجرا کند.نتیجه این کار، نصب بدافزار و سرقت اطلاعات است.
کسپرسکی چندین حمله را بر پایه صفحات نصب کننده جعلی برای ابزارهای Claude Code و OpenClaw شناسایی کرده است؛ حملاتی که در آنها به جای ابزار مشروع، بدافزار نصب می شد. این سناریو با نام ClickFix شناخته می شود، چون کاربر عملا وادار به انجام اقدامی مانند کلیک روی لینک یا اجرای دستور می شود.
توصیه های این بخش روشن است: نصب ابزارهای هوش مصنوعی را به کاتالوگ نرم افزارهای تایید شده سازمان محدود کنید، با فیلتر وب و ضد فیشینگ صفحات جعلی شناخته شده را ببندید، فایل های نصب را فقط از منابع معتبر دانلود کنید و برنامه های مشکوک را با راهکارهای امنیتی نقطه پایانی تحلیل کنید.
دسترسی بیش از حد عوامل هوش مصنوعی
بسیاری از کاربران تصور می کنند برنامه های دسکتاپ هوش مصنوعی فقط چت بات هایی هستند که در یک پنجره کار می کنند. در واقع برخی از این برنامه ها ایجینت هستند؛ یعنی می توانند فایل مدیریت کنند، برنامه اجرا کنند و از مجوزهای حساب کاربری فعلی بهره بگیرند.
اگر این ابزارها دسترسی گسترده داشته باشند و اجرای عملیات یا محیط های مجزا محدود نشده باشد،حتی یک دستور نادرست هم میتواند عواقب جدی داشته باشد.
در حمله ای که سپتامبر ۲۰۲۶ گزارش شد، عامل هوش مصنوعی نه تنها نصب یک بسته مخرب از PyPI را پیشنهاد داد، بلکه آن را اجرا هم کرد. پس از آن مهاجمان به توکن های GitHub دسترسی پیدا کردند و از آنها برای گسترش کرم Shai-Hulud استفاده کردند.
در حمله دیگری با نام S1ngularity، اسکریپت مخرب ایجینت هوش مصنوعی را شناسایی کرد و آن را به شکلی اجرا کرد که بررسی مجوزهای کاربر دور زده شد. نکته مهم همین جا است:در چنین حملاتی مهاجم نیازی به دسترسی به مدل هوش مصنوعی ندارد و از مجوزهای خود ابزار برای اقدامات مخرب استفاده می کند.
برای کاهش این ریسک، پارامترهای اجرای عامل را پایش کنید و دسترسی آن به پایگاه های داده و اطلاعات محرمانه را بررسی نمایید. دسترسی عامل به فایل های حاوی سرتیفیکیت های احراز هویت، توکن ها و کلیدها باید محدود شود.فرآیندهای ساب ایجینت که عامل ایجاد می کند نیز باید تحلیل شوند و اجرای عملیات در شرایطی که تایید مجوز دور زده شده است، متوقف شود.
Kaspersky NEXT EDR Optimum مجموعه ای از قواعد امنیتی برای تحلیل وضعیت اجرای ایجینت و دسترسی آن به فایلهای حاوی اعتبارنامه دارد. بسته به مورد، واکنش به تهدید می تواند توقف فرآیند ایجینت یا ایزوله کردن سیستم میزبان باشد.

سرورهای MCP؛ هر اتصال تازه، یک سطح حمله تازه
پروتکل زمینه مدل (MCP) به برنامه های هوش مصنوعی اجازه می دهد به ابزارها و منابع خارجی داده متصل شوند. برای مثال یک سرور MCP می تواند جستجو در اسناد، تماس با API یا کار با فایل ها را برای عامل انجام دهد.
اما محدودیت های امنیتی مهمی که روی خود عامل اعمال می شود، لزوما به سرور MCP متصل به آن تعمیم پیدا نمی کند. به همین دلیل اتصال یک سرور MCP جدید باید مانند نصب یک مولفه نرم افزاری تازه بررسی شود.
در فوریه ۲۰۲۶ پژوهشگران کمپین SANDWORM_MODE را شناسایی کردند. در این کمپین ماژول McpInject سرور مخرب MCP را در یک پوشه پنهان قرار داد و آن را در پیکربندی ابزارهایی مانند Claude Code، Cursor، Continue و Windsurf ثبت کرد. توضیحات ابزارهای مخرب نیز حاوی دستوراتی برای جستجوی اطلاعات حساس مانند کلیدهای SSH و دسترسی به سرویس های ابری بود.
چه باید کرد؟ فهرستی از سرورهای MCP مجاز بسازید و دسترسی به بقیه را محدود کنید. تغییرات پیکربندی سرور MCP را به طور مستمر پایش کنید و ارتباطات شبکه این سرورها را به حداقل برسانید. سرورهای محلی مانند فایل های قابل اجرا و سرویس های خارجی مانند API های مدل زبانی که به اطلاعات سازمانی دسترسی دارند نیز باید تحلیل شوند.
کسپرسکی اشاره می کند قابلیت های EDR آن می تواند برای تشخیص اسکریپت های سرور MCP به کار رود، به ویژه زمانی که سرور در پوشه ای پنهان یا موقت قرار دارد؛ هرچند ایجاد فایل در چنین دایرکتوری هایی به خودی خود نشانه بدی نیست.
استفاده مستقیم بدافزار از مدل های زبانی بزرگ
مهاجمان از مدل های زبانی بزرگ (LLM) برای تولید کد و اسکریپت مخرب استفاده می کنند. در این سناریو، بدافزار مستقیما درخواست تولید دستور یا کد را به سرویس مدل ارسال می کند.
بر اساس گزارش های گوگل، دو خانواده بدافزار PROMPTSTEAL و HONESTCUE در حملات واقعی شناسایی شده اند. PROMPTSTEAL از API Hugging Face برای تولید دستورات ویندوز استفاده می کند و HONESTCUE کد C# را از مدل Gemini می گیرد و اجرا می کند.
این سناریو کار تیم های امنیتی را دشوار می کند. دلیلش هم روشن است؛ ترافیک شبکه از بدافزار به سرویس های معتبر مدل زبانی، در نگاه اول کاملا عادی به نظر می رسد.
پس نظارت بر مقصد ارتباط کافی نیست. سازمان باید بداند چه فرآیندی این ارتباط را آغاز کرده و پس از دریافت پاسخ چه کاری انجام شده است. دسترسی به API های مدل زبانی را تنها به برنامه ها و فرآیندهای ضروری محدود کنید، درخواست های غیرمعمول به این API ها را پایش کنید و رویدادهای شبکه را با رویدادهای امنیتی نقاط پایانی همبسته کنید.
کسپرسکی توصیه می کند از EDR برای تشخیص برنامه هایی که با API های خارجی مدل زبانی ارتباط می گیرند و برنامه هایی که از فایل های محلی مدل استفاده می کنند، به کار گرفته شود. قابل ذکر است چنین تشخیصی به خودی خود به معنای آلودگی سیستم نیست، اما به کشف ابزارهای ناشناخته یا غیرمجاز هوش مصنوعی کمک می کند.
مهارت های مخرب؛ تهدید زنجیره تامین عوامل هوش مصنوعی
ایجنت هوش مصنوعی بخشی از دانش و دستورات خود را از مهارت ها (Skills) می گیرند. مهارت مجموعه ای از دستورالعمل ها، اسکریپت ها و فایل های کمکی است که به عامل امکان انجام عملیات تازه می دهد.
اما هر مهارت جدید، علاوه بر گسترش قابلیت ها، تعداد اجزای نرم افزاری که باید محافظت شوند را هم بالا می برد.
در فوریه ۲۰۲۶ پژوهشگران ۳۴۱ مهارت مخرب را در ClawHub شناسایی کردند. بسیاری از آنها به نصب یک مولفه اضافی نیاز داشتند و پس از آن بدافزار AMOS اطلاعات را می دزدید. پژوهشگران Unit 42 نیز روش دور زدن بررسی های امنیتی این مهارت ها را افشا کردند؛ یکی از این روش ها افزایش اندازه بسته برای عبور از اسکنرها بود.
پیش از دادن هر مهارت به عامل، آن را دقیق بررسی کنید. منبع مهارت را بشناسید، نسخه و وابستگی های نرم افزار را کنترل کنید، محتوای اسکریپت ها و فایل های قابل اجرا را تحلیل کنید و بسته ها را پیش از نصب اسکن نمایید.
کسپرسکی توصیه می کند بسته های مهارت هنگام نصب با موتور اسکن کسپرسکی بررسی شوند؛ اسکنی که باید در کنار تایید منبع، بررسی نسخه و بازبینی محتوا انجام شود.

چگونه اثر حملات بر عوامل هوش مصنوعی را کم کنیم؟
تشخیص و واکنش به تهدید حیاتی است، اما امنیت باید از مرحله طراحی و پیاده سازی عامل هوش مصنوعی آغاز شود. رویکرد «امنیت از طراحی» یعنی ساخت سامانه هوش مصنوعی با کنترل های امنیتی مناسب از همان ابتدا، به طوری که حتی در صورت وقوع حمله، اثر آن بر سیستم محدود بماند.
اصل کمترین سطح دسترسی
ایجنت باید فقط به منابعی دسترسی داشته باشد که برای کارش لازم است. هر جا ممکن است، آن را در حسابی جداگانه یا در محیطی ایزوله اجرا کنید و دسترسی اش را به پوشه های پروژه و سرویس های ضروری محدود نمایید.
یک جمله در پرامپت مبنی بر اینکه «به فایل های محرمانه دسترسی نداشته باش» جایگزین کنترل دسترسی واقعی و ایزوله سازی نیست.
ذخیره سازی امن توکن ها و کلیدها
توکن ها و کلیدهای دسترسی را در فایل های پیکربندی قابل خواندن توسط عامل ذخیره نکنید. در صورت امکان از مخازن محرمانه، اعتبارنامه های موقت و سرویس های واسطه استفاده کنید. سرویس واسطه باید بتواند عملیات لازم را انجام دهد، بدون آنکه اطلاعات حساس در معرض ایجنت قرار گیرد.
استفاده از وابستگی های تایید شده
تنها از مهارت ها، برنامه ها و مدل های نرم افزاری استفاده کنید که از مخازن و پروکسی های کنترل شده گرفته شده اند. نسخه های تایید شده را مشخص کنید و هش فایل ها را با مقادیر مرجع تطبیق دهید تا تغییرات احتمالی شناسایی شود.
محدود کردن ارتباطات شبکه
دسترسی عامل به API های مدل، سرورهای MCP و سایر منابع ضروری را محدود کنید. اما به فرآیندهای فرزند عامل هم توجه داشته باشید؛ محدود کردن ترافیک خروجی خود عامل کافی نیست، اگر یک برنامه پوسته یا فرآیند فرزند دسترسی کامل به اینترنت داشته باشد.
تدوین برنامه پاسخ به حوادث
در صورت مشکوک بودن به نقض، سازمان باید پیکربندی عامل ها، محیط های توسعه، عملیات خودکار و سرورهای MCP متصل را بررسی کند. توکن ها و نشست های مشکوک را ابطال کنید و کلیدهایی که احتمال افشای آنها وجود دارد را جایگزین نمایید.
ارایه یک جایگزین معتبر به کارمندان
ممنوع کردن ابزارهای هوش مصنوعی، تضمینی برای جلوگیری از حمله نیست. سازمان باید یک ابزار هوش مصنوعی معتبر در اختیار کارمندان بگذارد و دستورالعمل مشخصی برای مدیریت اطلاعات ارایه کند. روند تایید و مجوزدهی هم باید ساده و سریع باشد.
جمع بندی: امنیت عوامل هوش مصنوعی به کنترل دسترسی تکیه دارد
عوامل هوش مصنوعی می توانند کاروری سازمان را بالا ببرند، اما دسترسی آنها به فایل ها، برنامه ها، API ها و سرویس های خارجی یک سطح حمله تازه می سازد.
مهاجمان از مسیرهای مختلفی وارد می شوند؛ ابزار جعلی، سرور MCP مخرب، مهارت آلوده یا سوء استفاده از دسترسی های موجود خود ایجنت. نتیجه در همه این حالت ها یک چیز است: دسترسی به اطلاعات سازمانی.
برای کاهش این ریسک ها، سازمان باید کنترل های امنیتی را در تمام مراحل استفاده از ابزارهای هوش مصنوعی اعمال کند؛ از تایید ابزار و محدودسازی دسترسی ایجنت گرفته تا پایش رفتار آنها، بررسی وابستگی ها و نظارت مستمر بر نحوه استفاده از هوش مصنوعی.[منبع]
