آژانس ملی واکنش به رخدادهای رایانه‌ای هند که با اسم CERT-In هم شناخته میشود، به تازگی درباره خطرات امنیتی ایجنت های هوش مصنوعی هشدار داده است. طبق گزارشی که The Hacker News منتشر کرده، برخی از این ایجنت ها در جریان آزمایش و ارزیابی به سامانه های عملیاتی سازمان های هندی دسترسی پیدا کرده و توانسته بودند اطلاعات حساس، سوابق تجاری و داده های شخصی را مشاهده کنند، بدون آنکه خود سازمان ها هم از از این دسترسی ها خبر داشته باشند. این اتفاق بار دیگر نشان می دهد که هیچ فناوری جدیدی 100٪ امن نیست و قبل از اینکه جای خودش رو باز کنه، می تونه تبدیل به ابزار دست مجرمان بشه.
اما اصلاً ایجنت هوش مصنوعی چیست؟ ایجنت ها برنامه هایی هستن که برای انجام وظایف مختلف به ابزارهای نرم افزاری، API ها، پایگاه های داده و سرویس های ابری متصل می شند. ایجنت های هوش مصنوعی در سازمان ها کمک می کنند فرایندهای پیچیده خودکار شوند؛ اما مشکل از جایی شروع می شه که سطح دسترسی ایجنت ها درست محدود نشده باشه. در اون صورت همین قابلیت خوب می تونه به یک ریسک امنیتی جدی تبدیل بشه.
طبق گزارش منتشر شده، بیشتر این رخدادها ریشه در ضعف های مدیریت دسترسی و پیکربندی سامانه ها داشتن که مهم ترین آنها این موارد هستن:
- افشای اطلاعات احراز هویت: ذخیره نام کاربری، رمز عبور و کلیدهای دسترسی توی فایل های پیکربندی یا مخازن کد عمومی
- مجوزهای بیش از حد: دادن دسترسی گسترده به حساب های سرویس و منابع ابری، خیلی بیشتر از نیاز واقعی شون
- پیکربندی ناامن سرویس ها: محافظت ناکافی از اطلاعات اتصال به پایگاه های داده و سامانه های سازمانی
- نبود محدودیت اجرایی موثر: امکان سرک کشیدن ایجنت های آزمایشی توی منابعی خارج از محدوده تعیین شده
- نظارت ناکافی: متوجه نشدن به موقع دسترسی های غیرعادی و فعالیت های خارج از سیاست های امنیتی
اما ماجرا به همینجا ختم نمی شود. CERT-In همچنین هشدار داده که مجرمان سایبری از ابزارها و چارچوب های مبتنی بر هوش مصنوعی برای خودکارسازی حملاتشون استفاده می کنند. به زبان ساده، ایجنت ها می توانند بخش هایی از فرایند حمله را خودکار کنند؛ از شناسایی اهداف و بررسی سرویس های در دسترس گرفته تا تحلیل خروجی ابزارها و انتخاب گام بعدی. حتی اجرای همزمان چند ایجنت هم می تونه سرعت کار مهاجم رو بالا ببرد. برای مثال مهاجم می تونه سریع تر سرویس های در معرض اینترنت و پیکربندی های ناامن رو پیدا کند، مخازن کد رو برای اطلاعات افشا شده بگردند، خروجی ابزارهای امنیتی رو تحلیل کنند و اهداف رو اولویت بندی کنند و حملات رو علیه سازمان هایی که وصله های امنیتی رو ناقص اجرا کردند تکرار کنند.
البته به خاطر داشته باشید که استفاده از هوش مصنوعی به تنهایی به معنی موفقیت یک حمله نیست. نتیجه نهایی همچنان به عواملی مثل وجود آسیب پذیری، سطح دسترسی مهاجم، پیکربندی زیرساخت و اثربخشی کنترل های امنیتی بستگی دارد.
آیا ایجنت های هوش مصنوعی سطح حمله سازمان رو بزرگ تر می کنند؟
تفاوت اصلی این ایجنت ها با خیلی از ابزارهای خودکار سنتی این است که می توانند یک زنجیره از وظایف رو اجرا کنند و با ابزارهای مختلف تعامل داشته باشند؛ یعنی بر اساس نتیجه هر مرحله، خودشان تصمیم می گیرن مرحله بعدی چی کار کنند. حالا اگر همچین ایجنتی به سیستم مدیریت ارتباط با مشتری، مخازن کد، ایمیل سازمانی یا زیرساخت ابری وصل باشد، دامنه دسترسیش می تو اند به چندین بخش از سازمان کشیده شود. مهم ترین ریسک ها هم اینا هستن:
- افشای داده های محرمانه (ایجنتی که اجازه خوندن اطلاعات مشتری ها رو داره ممکنه در شرایط نامناسب این اطلاعات را در خروجی خودش نشان بدهد)
- سوءاستفاده از اعتبارنامه های معتبر (اگر رمز عبور یا کلید API ایجنت لو برود، مهاجم حتی بدون بهره برداری از یک آسیب پذیری نرم افزاری می تونه از همان مجوزهای معتبر استفاده کند)
- اجرای عملیات خارج از محدوده مجاز، دشوارتر شدن تشخیص فعالیت مخرب (چون ایجنت از حساب های سرویس معتبر استفاده می کنه و کارش در نگاه اول شبیه رفتار عادی سامانه به نظر می رسد)
- و در آخر گسترش نفوذ بین سرویس های متصل به هم.
حالا چه باید کرد؟ سازمان هایی که از ایجنت های هوش مصنوعی استفاده می کنند باید کنترل های امنیتی رو از مرحله طراحی و توسعه تا استقرار و بهره برداری در نظر بگیرن.
چند توصیه مهم:
- اصل حداقل دسترسی رو اجرا کنید؛ هر ایجنت فقط باید به اطلاعاتی دسترسی داشته باشه که برای انجام کارش لازمش دارد. مثلاً ایجنتی که وظیفه تحلیل گزارش ها رو داره نباید به طور پیش فرض اجازه حذف فایل یا تغییر تنظیمات زیرساخت رو داشته باشه.
- کلیدهای API و رمزهای عبور رو امن مدیریت کنید؛ این اطلاعات هیچ وقت نباید توی کد منبع یا مخازن عمومی ذخیره بشن. استفاده از سامانه های مدیریت اسرار، چرخش دوره ای کلیدها و ابطال سریع اعتبارنامه های افشا شده ضروری است.
محیط تست رو ایزوله کنید؛ ایجنت های آزمایشی باید جدا از سامانه های عملیاتی اجرا بشن، با داده های ساختگی و دسترسی شبکه محدود. - دسترسی ایجنت به ابزارها رو کنترل کنید؛ عملیات های حساس مثل حذف داده، تغییر مجوزها یا اجرای فرمان های مدیریتی بهتر است با تایید انسانی اجرا شود.
- فعالیت ها را زیر نظر داشته باشید؛ ثبت درخواست های API، دسترسی به فایل ها و فرمان های اجرا شده به تیم امنیت کمک می کند
- فعالیت های غیرعادی رو شناسایی کنند. افزایش ناگهانی حجم درخواست ها یا دسترسی به منابع نامرتبط باید زنگ خطر باشد.
- مجوزها و اتصال ها رو هر چند وقت یک بار بررسی کنید؛ دسترسی های بلااستفاده رو حذف کنید و هر اتصال جدید قبل از فعال شدن از نظر امنیتی ارزیابی شود.
- برای پاسخ به رخداد آماده باشید؛ در صورت مشاهده دسترسی غیرمجاز، صرفاً غیرفعال کردن ایجنت کافی نیست. باید دسترسی متوقف شود، اعتبارنامه های در معرض خطر باطل شوند، شواهد فنی حفظ شوند و دامنه نفوذ مشخص شود.
- در کنار همه این ها، تقویت امنیت زیرساخت پایه سازمان هم فراموش نشود. راهکارهای حفاظت از نقاط پایانی، EDR، XDR و SIEM می توانند در کنار مدیریت هویت و دسترسی کمک کنن فعالیت های مشکوک زودتر شناسایی بشوند. البته این راهکارها جایگزین کنترل مجوزهای ایجنت ها و مدیریت امن اعتبارنامه ها نیستن؛ حفاظت واقعی به ترکیب چند لایه امنیتی و هماهنگی بین تیم های توسعه، زیرساخت و امنیت اطلاعات نیاز دارد. برای انتخاب راهکار مناسب هم می تونید از نماینده رسمی کسپرسکی در ایران کمک بگیرید و برای مقایسه، قیمت محصولات کسپرسکی را ببینید.
آنچه می توانیم یاد بگیریم این است که هوش مصنوعی هم مثل هر تکنولوژی دیگه ای شمشیر دو لبه است؛ اگر درست مدیریتش نکنید، هم می تواند مسیری برای دسترسی غیرمجاز به اطلاعات سازمان تان باشد و هم دست مهاجمان رو برای اجرای حملات بازتر کند. استفاده امن از هوش مصنوعی فقط به انتخاب یه مدل خوب وابسته نیست؛ مدیریت دسترسی، کنترل ابزارها و پایش مستمر هم بخش جدایی ناپذیر ماجراست. پس بهتراست از همین حالا فکر امنیت را بکنید، چون مهاجمان سایبری و ابزارهایشان هر سال پیچیده تر می شوند.