آخرین بروزرسانی در ۱ مرداد ۱۴۰۵ توسط Dr.Arman
گسترش سریع ابزارهای نوین در حوزه اتوماسیون با هوش مصنوعی تحولی بزرگ ایجاد کرده است. با این حال امنیت عاملهای هوش مصنوعی به دغدغهای حیاتی تبدیل شده است.
ضرورت حاکمیت هوش مصنوعی در سازمانهای مدرن
امروزه سازمانها با سرعت خیرهکنندهای به سمت استفاده از عاملهای خودمختار حرکت میکنند. این عاملها دسترسی گستردهای به سیستمهای داخلی و دادههای حساس دارند. متاسفانه کنترلهای امنیتی متناسب با این پیشرفتها رشد نکردهاند. حاکمیت هوش مصنوعی باید به عنوان یک اولویت در صدر برنامهها قرار گیرد. آمارهای اخیر نشان میدهد که شکاف بزرگی میان خودمختاری و امنیت وجود دارد. بیش از نیمی از شرکتها قبلاً با حوادث امنیتی روبرو شدهاند. این حوادث شامل نفوذهای قطعی یا موارد نزدیک به وقوع بودهاند. عدم وجود نظارت دقیق میتواند پیامدهای جبرانناپذیری برای داراییهای دیجیتال داشته باشد. سازمانها باید چارچوبهای سختگیرانهای برای فعالیت این عاملها تدوین کنند. بدون حاکمیت درست، ریسک سوءاستفاده از دسترسیها به شدت افزایش مییابد.
آمارهای کلیدی حوادث امنیتی
بر اساس تحقیقات انجام شده، نرخ وقوع حوادث در شرکتهای بزرگ نگرانکننده است. بسیاری از این حوادث ناشی از دسترسیهای بیش از حد مجاز است. سازمانهای کوچکتر نیز از این خطرات در امان نماندهاند.
| نوع حادثه امنیتی | درصد سازمانهای آسیبدیده |
|---|---|
| نفوذ قطعی تایید شده | ۱۸ درصد |
| موارد نزدیک به وقوع (Near-miss) | ۳۶ درصد |
| عدم شناسایی حادثه | ۴۲ درصد |
مدیریت هویت غیرانسانی؛ پاشنه آشیل امنیت عاملها
یکی از بزرگترین نقاط ضعف در ساختار فعلی، بحث شناسایی است. مدیریت هویت غیرانسانی در اکثر سازمانها به درستی پیادهسازی نشده است. تنها یکسوم سازمانها برای هر عامل یک هویت مجزا تعریف میکنند. بسیاری از عاملها هنوز از کلیدهای API مشترک استفاده میکنند. برخی دیگر نیز از اعتبارنامههای انسانی یا حسابهای خدماتی مشترک بهره میبرند. اشتراکگذاری اعتبارنامهها خطر بسیار بزرگی را به همراه دارد. در صورت نفوذ به یک عامل، مهاجم به کل سیستم دسترسی مییابد. این موضوع باعث میشود که شعاع تخریب حادثه به شدت گسترش یابد. اختصاص هویتهای مدیریتشده و محدود برای هر عامل الزامی است. این کار امکان ردیابی فعالیتها و انتساب دقیق اقدامات را فراهم میکند. بدون این زیرساخت، بازرسیهای پس از حادثه عملاً غیرممکن خواهد بود. سازمانها باید به سمت مدلهای دسترسی با کمترین امتیاز حرکت کنند.
چالشهای اشتراکگذاری اعتبارنامهها
- افزایش شعاع تخریب در صورت نفوذ به یک عامل.
- دشواری در ردیابی منشأ دقیق فعالیتهای مخرب.
- عدم امکان اعمال سیاستهای محدودکننده برای هر فعالیت.
- افزایش احتمال سوءاستفاده مهاجمان از دسترسیهای سطح بالا.
مقابله با تهدیدات سایبری هوش مصنوعی با ابزارهای بومی
بسیاری از سازمانها برای امنیت خود به ابزارهای پیشفرض ارائهدهندگان مدلها تکیه میکنند. مقابله با تهدیدات سایبری هوش مصنوعی نیازمند ابزارهای تخصصی و هدفمند است. در حال حاضر محافظهای شرکتهایی مانند OpenAI و گوگل غالب هستند. رضایت از این ابزارهای عمومی به طور عجیبی بالا گزارش شده است. با این حال، کارشناسان معتقدند این ابزارها کافی نیستند. اکثر این کنترلها برای جداسازی و مهار عاملهای پرخطر طراحی نشدهاند. تنها ۳۰ درصد از سازمانها از محیطهای ایزوله یا سندباکس استفاده میکنند. ایزولهسازی بهترین راه برای محدود کردن خسارات احتمالی در زمان شکست امنیتی است. مشاهده و نظارت بر فعالیتها به تنهایی برای مهار تهدیدات کافی نیست. ابزارهای بومی باید توانایی اجرای سیاستها در زمان اجرا را داشته باشند. شکاف امنیتی فعلی ناشی از اعتماد بیش از حد به تنظیمات پیشفرض است.
وضعیت ابزارهای امنیتی در بازار
- ابزارهای محافظتی توکار ارائهدهندگان مدل (۵۱ درصد استفاده).
- کنترلهای ابری شرکتهای بزرگ مانند مایکروسافت و گوگل.
- ابزارهای تخصصی و نوظهور امنیت عاملهای هوش مصنوعی.
- پلتفرمهای مدیریت هویتهای غیرانسانی برای کنترل دسترسی.
بودجهبندی و آینده امنیت در عصر هوش مصنوعی
تخصیص بودجه برای امنیت عاملهای هوش مصنوعی هنوز به بلوغ نرسیده است. اکثر شرکتها تنها بخش کوچکی از بودجه امنیتی را به این حوزه اختصاص میدهند. حدود ۴۶ درصد سازمانها بین ۶ تا ۱۰ درصد بودجه خود را صرف میکنند. این رقم با توجه به سرعت رشد خطرات بسیار ناچیز است. شکاف بودجهای باعث میشود که زیرساختهای لازم برای جداسازی ایجاد نشود. بسیاری از مدیران بر این باورند که در مسابقه با مهاجمان عقب هستند. تنها ۳۵ درصد معتقدند دفاعهای آنها جلوتر از مهاجمان مسلح به هوش مصنوعی است. این عدم اطمینان نشاندهنده لزوم بازنگری در استراتژیهای سرمایهگذاری است. انتظار میرود در سال آینده شاهد تغییرات گستردهای در ابزارهای مورد استفاده باشیم. اکثر سازمانها قصد دارند راهکارهای امنیتی خود را جایگزین یا تقویت کنند. وقوع یک حادثه واقعی معمولاً محرک اصلی برای خرید ابزارهای جدید است. تجربه نشان داده که پس از نفوذ، تمایل به سرمایهگذاری به شدت افزایش مییابد.
توازن قدرت در امنیت سایبری
| وضعیت دفاع در برابر مهاجم | درصد باور سازمانها |
|---|---|
| دفاع هوش مصنوعی جلوتر است | ۳۵ درصد |
| قدرت دو طرف تقریباً برابر است | ۳۲ درصد |
| مهاجمان با کمک هوش مصنوعی جلوتر هستند | ۲۱ درصد |
| هنوز برای قضاوت زود است | ۲۱ درصد |
در نهایت باید گفت که پذیرش عاملها بسیار سریعتر از امنیت آنها است. سازمانها باید میان اعتماد و نظارت تعادل برقرار کنند. امنیت عاملهای هوش مصنوعی تنها یک مسئله فنی نیست بلکه یک نیاز استراتژیک است. ایجاد هویتهای مجزا و محیطهای سندباکس باید در اولویت باشد. تکیه بر تنظیمات پیشفرض پلتفرمها میتواند سازمان را در معرض خطر قرار دهد. آینده کسبوکارهای هوشمند به توانایی مهار این فناوریهای خودمختار بستگی دارد. با مدیریت درست و حاکمیت هوشمندانه، میتوان از مزایای هوش مصنوعی بهرهمند شد. این مسیر نیازمند آگاهی، بودجه کافی و ابزارهای تخصصی است. سازمانهایی که امروز به فکر امنیت هستند، برندگان رقابتهای فردا خواهند بود.
منبع:
https://venturebeat.com/ai/the-agent-security-gap-54-of-enterprises-have-already-had-an-ai-agent-incident-and-most-still-let-agents-share-credentials
https://venturebeat.com/ai/the-ai-compute-gap-enterprises-are-buying-infrastructure-faster-than-they-can-measure-what-it-costs
https://venturebeat.com/ai/the-ai-context-gap-enterprise-ai-organizations-have-a-trust-problem-not-a-retrieval-problem-and-most-are-still-building-the-fix
https://venturebeat.com/ai/the-agent-evaluation-gap-enterprise-ai-organizations-have-a-reality-alignment-problem-not-a-coverage-problem-and-most-are-shipping-to-production-anyway
https://venturebeat.com/orchestration/openai-unveils-presence-a-new-platform-that-lets-enterprises-launch-and-manage-realtime-voice-agents-and-chatbots
مطالب مرتبط