امروزه تمام فعالیتهای کاری ما به نحوی با ابزارهای دیجیتال مرتبط است و وابستگی ما به این ابزارها روز به روز در حال افزایش است. چه بخواهیم قبول کنیم چه آن را انکار کنیم، شیوه انجام کار در سازمانها تحت تأثیر هوش مصنوعی در حال تغییر است. کارکنان برای تحلیل داده ها، مدیریت ایمیل، جستوجوی اطلاعات و انجام وظایف تکراری از ابزارهای هوشمند استفاده میکنند و این روند هر روز گسترده تر می شود.
این موضوع فرصتهای فراوانی برای افزایش بهره وری فراهم میکند، اما یک چالش امنیتی هم به همراه دارد. چه اتفاقی میافتد وقتی کارکنان، بدون هماهنگی با تیم فناوری اطلاعات یا امنیت، ایجنتهای هوش مصنوعی شخصی خود را به زیرساختهای سازمان متصل کنند؟
این مسئله با نام هوش مصنوعی سایه (Shadow AI) و استفاده از عامل شخصی (Bring Your Own Agent) شناخته میشود. بد نیست بدانید که مرز میان ابزارهای شخصی کارکنان و منابع سازمانی بیش از هر زمان دیگری در حال کمرنگ شدن است.
ایجنت هوش مصنوعی دقیقاً چیست؟
ایجنت هوش مصنوعی نوعی سامانه نرم افزاری است که با استفاده از مدلهای هوش مصنوعی اطلاعات را پردازش میکند، با ابزارهای دیگر ارتباط برقرار میکند و در محدوده دسترسی های تعریف شده، وظایف مشخصی را انجام میدهد.
برای مثال یک کارمند ممکن است از عامل بخواهد ایمیل های مهم را دسته بندی کند، اطلاعات چند فایل را با هم مقایسه کند یا داده های موردنیاز او را از چند سامانه جمع آوری کند. اگر این ابزار به حساب کاربری سازمانی کارمند متصل باشد، میتواند به همه اطلاعاتی که خود کارمند مجاز به مشاهده آنهاست دسترسی پیدا کند.
مشکل دقیقاً از همینجا شروع میشود که سازمان از وجود این ایجنت یا سطح دسترسی آن اطلاعی ندارد. نرم افزارهای سازمانی معمولاً پیش از استفاده، مراحل ارزیابی، تأیید و استقرار را از طریق تیم فناوری اطلاعات طی میکنند، اما یک ایجنت شخصی مستقیماً توسط خود کارمند راه اندازی میشود. به همین دلیل سازمان نه تنها کنترل محدودی بر ابزار دارد، بلکه ممکن است نداند اطلاعات در کجا پردازش میشوند و اعتبارنامه های دسترسی چگونه نگهداری می شوند.
ایجنت ها از چه راههایی به منابع سازمان متصل میشوند؟
اتصال یک عامل به منابع سازمان لزوماً به نصب نرم افزار پیچیده یا تغییر در زیرساخت نیاز ندارد. در بیشتر موارد، این اتصال از همان مسیرهایی برقرار میشود که کارکنان هر روز برای وصل کردن برنامه های مختلف استفاده میکنند.
مجوزهای OAuth: بعضی ایجنت ها برای اتصال به سرویس هایی مانند Google Workspace، Microsoft 365 یا Slack از OAuth استفاده میکنند. کاربر مجوزهای درخواستی را تأیید میکند و ابزار در محدوده همان مجوزها به اطلاعات دسترسی پیدا میکند. اگر سیاست های سازمان اجازه تأیید آزادانه برنامه های شخص ثالث را به کاربران بدهد، این فرایند ممکن است بدون اطلاع تیم امنیت انجام شود.
دسترسی از طریق مرورگر: برخی ایجنت ها میتوانند از طریق مرورگر وارد وبسایتها و سامانه ها شوند. اگر رمز عبور کاربر در مرورگر یا ابزار مدیریت رمز عبور در دسترس باشد، عامل ممکن است از همان حساب کاربری استفاده کند. در چنین شرایطی، فعالیت ایجنت را به سادگی نمیتوان از فعالیت عادی کارمند تشخیص داد.
کلیدهای API و توکن های دسترسی: بعضی یکپارچه سازی ها با استفاده از کلید API یا توکن دسترسی شخصی انجام می شوند. اگر این اعتبارنامه ها دسترسی گسترده ای داشته باشند یا برای مدت طولانی معتبر بمانند، احتمال استفاده غیرمجاز از آنها افزایش پیدا میکند. نگهداری نامناسب این اطلاعات یا نبود فرایند مشخص برای لغو آنها، ریسک دسترسی مداوم به منابع سازمانی را ایجاد میکند.
ایجنت های محلی: ایجنت هایی که روی رایانه شخصی کاربر اجرا میشوند، با توجه به مجوزهای سیستم عامل ممکن است به فایل ها، تقویم، ایمیل و سایر منابع محلی دسترسی داشته باشند. در این مدل حتی اگر سازمان سرور مستقلی برای ایجنت نداشته باشد، باز هم ممکن است اطلاعات سازمانی از طریق دستگاه کارمند پردازش یا منتقل شود. بنابراین محل اجرای ابزار به تنهایی تعیین کننده امنیت آن نیست و مجوزهای دسترسی، نحوه مدیریت اعتبارنامه ها و سیاست های انتقال داده نیز اهمیت دارند.
تفاوت هوش مصنوعی سایه با فناوری اطلاعات سایه
در مدل سنتی فناوری اطلاعات سایه (Shadow IT)، کارکنان از نرم افزارها یا سرویس هایی استفاده میکردند که خارج از فرایندهای رسمی سازمان تهیه شده بود. هوش مصنوعی سایه همین چالش را به سطح تازهای میبرد، چرا که یک ایجنت تنها یک برنامه نصب شده نیست و میتواند با استفاده از هویت دیجیتال کاربر به منابع مختلف دسترسی پیدا کند و به نمایندگی از او فعالیت کند.
این موضوع را میتوان با یک مثال ساده توضیح داد. وقتی کسی کلید خانه شما را در اختیار شخص دیگری قرار میدهد، آن شخص میتواند وارد همه اتاقها شود، حتی اگر کارش فقط در یکی از آنها باشد. ایجنت هوش مصنوعی هم دقیقاً به همین شکل عمل میکند. اگر کاربری اجازه مشاهده تعداد زیادی از فایلهای سازمانی را داشته باشد، ایجنت متصل به حساب او ممکن است برای پاسخ به یک درخواست ساده، همه آن فایلها را جستوجو و پردازش کند؛ حتی اگر وظیفه موردنظر تنها به چند سند مشخص نیاز داشته باشد.
بنابراین خطر فقط وجود یک ابزار تأییدنشده نیست. مسئله اصلی این است که یک سامانه خودکار میتواند از دسترسی های موجود برای انجام فعالیتهایی استفاده کند که دامنه آنها از نیاز واقعی کاربر فراتر میرود. پیامدهای احتمالی این وضعیت عبارتاند از:
- افشای اطلاعات محرمانه
- انتقال داده به سرویسهای خارجی
- افزایش سطح حمله
- دشوارتر شدن بررسی رخدادهای امنیتی
- باقی ماندن دسترسی ها پس از تغییر مسئولیت یا خروج کارکنان
البته به خاطر داشته باشید که اتصال یک ایجنت هوش مصنوعی به سامانه سازمانی به خودی خود به معنای وقوع رخداد امنیتی نیست. میزان ریسک به نوع ابزار، مجوزهای اعطا شده، حساسیت داده ها و کنترل های حفاظتی سازمان بستگی دارد.
چرا ممنوع کردن ایجینت ها، راه حل کاملی نیست؟
رویکرد مؤثرتر، ایجاد سازوکاری برای شناسایی عاملها، تعیین مالکیت، محدود کردن دسترسی ها و نظارت بر فعالیت آنهاست. سازمان باید بتواند به چند پرسش اساسی پاسخ دهد:
- چه عاملهای هوش مصنوعی به منابع سازمان متصل هستند؟
- هر عامل متعلق به کدام کاربر یا مسئول سازمانی است؟
- این عامل به چه دادهها و سامانه هایی دسترسی دارد؟
- آیا سطح دسترسی آن متناسب با وظیفه تعریف شده است؟
- پس از تغییر شغل یا خروج کارمند، دسترسی های مرتبط چگونه لغو می شوند؟
پاسخ به این پرسشها، پایه ایجاد یک سیاست عملی برای استفاده کنترل شده از هوش مصنوعی است.
برای کنترل این ریسک چه باید کرد؟
- شناسایی و دید کامل: سازمانها باید از طریق بررسی مجوزهای OAuth، برنامه های متصل به حساب های سازمانی، توکن های فعال، فعالیتهای احراز هویت و هشدارهای ابزارهای امنیتی، دید مناسبی نسبت به ایجنتهای مورد استفاده کارکنان به دست آورند. این بررسی باید علاوه بر ابزارهای شناخته شده، دسترسی هایی را که از مسیرهای غیررسمی ایجاد شده اند هم در نظر بگیرد.
- رعایت اصل حداقل دسترسی: هر عامل باید فقط به اطلاعات و عملیاتی دسترسی داشته باشد که برای انجام وظیفه مشخص خود به آنها نیاز دارد. برای مثال اگر عامل صرفاً باید گزارش های یک واحد را تحلیل کند، اعطای دسترسی به تمام اسناد سازمان ضرورتی ندارد. همچنین دسترسی خواندن اطلاعات نباید بصورت پیشفرض شامل امکان ویرایش، حذف یا ارسال آنها باشد. تفکیک مجوزها و محدود کردن دامنه دسترسی، پیامدهای احتمالی سوءاستفاده یا خطای ایجنت را کاهش میدهد.
- هویت مجزا و قابلیت ردیابی: فعالیت ایجنت هوش مصنوعی نباید کاملاً با فعالیت انسانی که آن را به کار گرفته یکسان تلقی شود. سازمان باید تا حد امکان مشخص کند چه کسی ایجنت را مجاز کرده، عامل از چه هویتی استفاده میکند و هر عملیات توسط کدام موجودیت انجام شده است. استفاده از هویتهای جداگانه برای ایجنتها، ثبت دقیق رویدادها و الزام تأیید انسانی برای اقدامات حساس، قابلیت ردیابی و پاسخگویی را افزایش میدهد.
- بازبینی دورهای دسترسی ها: دسترسی های اعطا شده به عاملها باید بصورت دوره ای بررسی شوند. توکن های غیرضروری یا منقضی نشده، مجوزهای بیش از حد گسترده و حسابهای متصل به ابزارهای ناشناخته باید شناسایی و در صورت لزوم لغو شوند. این فرایند باید به تغییر نقش کارکنان و پایان همکاری آنها نیز متصل باشد، تا دسترسی های باقیمانده به یک نقطه ضعف تبدیل نشوند.
- پایش رفتار و فعالیتها: کنترل امنیتی نباید تنها به شناسایی ابزار محدود شود. بررسی الگوهای دسترسی، حجم و نوع اطلاعات مورد استفاده، فعالیت های غیرعادی و انتقال داده به مقصدهای نامتعارف نیز اهمیت دارد. بسته به معماری سازمان، راهکارهایی مانند مدیریت هویت و دسترسی (IAM)، مدیریت دسترسی های ممتاز (PAM)، مدیریت اطلاعات و رویدادهای امنیتی (SIEM) و سامانه های تشخیص و پاسخگویی به تهدیدات نقاط پایانی (EDR) میتوانند در بخشهایی از این فرایند نقش داشته باشند. متأسفانه، هیچ ابزار منفردی تضمین نمی کند که تمام ایجنت های شخصی شناسایی یا تمام فعالیت های آنها کنترل شوند. پوشش واقعی به قابلیتهای فنی، پیکربندی و یکپارچگی سامانه های امنیتی بستگی دارد.
جمع بندی
ایجنت های هوش مصنوعی میتوانند فرایندهای سازمانی را سریعتر و کارآمدتر کنند، اما دسترسی آنها به اطلاعات و سامانه های داخلی، مسئولیت تازهای برای تیمهای فناوری اطلاعات و امنیت ایجاد میکند. سازمانها برای مدیریت این تحول باید رویکردی فراتر از مجاز یا غیرمجاز بودن ابزارها داشته باشند. شناسایی ایجنت های متصل، تعیین مالکیت، محدود کردن مجوزها، ثبت فعالیت ها و لغو بموقع دسترسی ها از عناصر کلیدی این رویکرد هستند.
آنچه از این موضوع میتوانیم یاد بگیریم این است که هر ایجنت هوش مصنوعی دارای دسترسی به منابع سازمانی، باید بخشی از سطح حمله دیجیتال سازمان در نظر گرفته شود. گسترش استفاده از هوش مصنوعی بدون توجه به هویت، دسترسی و حفاظت از داده ها میتواند شکافهایی ایجاد کند که شناسایی آنها برای تیم امنیت دشوار باشد.
امنیت هوش مصنوعی سازمانی از جایی آغاز میشود که سازمان بداند چه ابزاری، با کدام هویت و در چه محدودهای به اطلاعات آن دسترسی دارد.