آخرین بروزرسانی در ۲۰ مرداد ۱۴۰۵ توسط Dr.Arman
ظهور فناوریهای نوین همواره با چالشهای امنیتی پیچیدهای همراه بوده است. امروزه استفاده از عاملهای هوش مصنوعی در محیطهای سازمانی به یک ضرورت تبدیل شده است.
پدرو فرانچسکی، مدیرعامل شرکت فینتک برکس، دیدگاه جدیدی را در کنفرانس ویبی ترنسفورم مطرح کرد. او معتقد است واژه عامل برای این فناوری مناسب نیست. وی ترجیح میدهد از مفهوم کارمند مجازی استفاده کند. این موجودیتها دارای ایمیل هستند و در جلسات شرکت میکنند.
چالشهای استقرار هوش مصنوعی در سازمان و مدیریت ریسک
استقرار هوش مصنوعی در سازمان نیازمند تغییر در طرز فکر مدیران است. بسیاری از تیمهای امنیتی با اجرای کدهای خودکار مخالفت میکنند. آنها نگران دسترسیهای کنترل نشده این ابزارها به شبکه هستند. عاملهایی که توانایی کدنویسی دارند، ریسکهای امنیتی بالایی ایجاد میکنند.
رویکردهای سنتی امنیت معمولاً بر محدود کردن ابزارها تمرکز دارند. اما این کار باعث کاهش کارایی عاملهای هوش مصنوعی میشود. اگر توانایی کدنویسی را از عامل بگیریم، ارزش عملیاتی آن از بین میرود. شرکت برکس برای حل این تضاد، راهکار متفاوتی را برگزیده است.
آنها به جای کنترل کد، بر لایه شبکه تمرکز کردهاند. این تغییر پارادایم به سازمانها اجازه میدهد تا از قدرت کامل هوش مصنوعی بهره ببرند. در عین حال، امنیت شبکه سازمان به طور کامل حفظ میشود. این رویکرد جدید، امنیت شبکهمحور نامیده میشود.
آشنایی با پلتفرم OpenClaw و مخاطرات امنیتی آن
پلتفرم OpenClaw یک ابزار متنباز قدرتمند برای ایجاد عاملهای هوشمند است. این پلتفرم در اوایل سال جاری میلادی به بازار عرضه شد. عاملهای ساخته شده با این ابزار میتوانند کدهای خود را مدیریت کنند. این ویژگی باعث میشود آنها بسیار مستقل و کارآمد باشند.
با این حال، همین استقلال باعث نگرانی CISOs یا مدیران امنیت اطلاعات شده است. آنها میپرسند چگونه میتوان به کدی که توسط هوش مصنوعی تولید شده اعتماد کرد؟ ابزارهای متنباز هوش مصنوعی ممکن است ناخواسته حفرههای امنیتی ایجاد کنند. دسترسی این ابزارها به اینترنت باید به دقت مانیتور شود.
شرکت برکس با درک این خطرات، ابزار کربترپ را توسعه داد. کربترپ مانند یک نگهبان در مرز شبکه عمل میکند. این سیستم فرض میکند که عامل ممکن است هک شده باشد. بنابراین، تمام ترافیک خروجی آن به سمت اینترنت را بررسی میکند.
مقایسه رویکردهای امنیتی در حوزه هوش مصنوعی
در جدول زیر تفاوت میان روشهای رایج و روش نوین برکس را مشاهده میکنید:
| معیار بررسی | مدل محدودسازی ابزار | مدل نظارت بر شبکه (کربترپ) |
|---|---|---|
| کنترل عملکرد | بسیار محدود و سختگیرانه | آزادانه و مبتنی بر هدف |
| تمرکز امنیتی | کد داخلی کانتینر | ترافیک خروجی HTTP |
| کارایی عامل | کاهش یافته | حداکثری |
| تأخیر سیستم | کم | بسیار کم (بهینهسازی شده) |
بررسی عملکرد پروتکل امنیتی CrabTrap و تحلیل دادهها
کربترپ یک پروکسی HTTP است که توسط شرکت برکس ساخته شده است. این سیستم از مدلهای زبانی به عنوان قاضی استفاده میکند. هر درخواست خروجی توسط این مدلها تحلیل و بررسی میشود. هدف این است که فعالیتها با سیاستهای شرکت مطابقت داشته باشند.
استفاده از مدل زبانی برای هر درخواست میتواند باعث کندی شود. برای حل این مشکل، برکس از یک سیستم دو مرحلهای استفاده میکند. فعالیتهای معمولی و کمریسک بلافاصله توسط قوانین استاتیک تایید میشوند. اما فعالیتهای حساس مانند ارسال ایمیل به قاضی هوشمند ارجاع میگردند.
- حدود ۹۸ درصد درخواستها با سرعت بالا پردازش میشوند.
- تنها ۲ درصد درخواستهای پیچیده دچار تأخیر بررسی میشوند.
- مدلهای زبانی در درک معنایی ترافیک شبکه عالی عمل میکنند.
- آموزشهای پیشین مدلها، آنها را به قاضیانی دقیق تبدیل کرده است.
این معماری باعث میشود که تعادل میان سرعت و امنیت برقرار شود. سازمانها میتوانند بدون نگرانی از حملات، ابزارهای متنباز هوش مصنوعی را مستقر کنند. تجربه برکس نشان داد که هوش مصنوعی در تشخیص ناهنجاریها بسیار توانا است.
نقش نظارت انسانی در فرآیند امنیت
یکی از بخشهای کلیدی این سیستم، حضور انسان در چرخه نظارت است. اگر کربترپ به موردی مشکوک برخورد کند، پیامی در اسلک ارسال میکند. مدیر مربوطه میتواند دلیل اقدام عامل را مشاهده کند. سپس با یک کلیک، اجازه دسترسی صادر یا رد میشود.
این فرآیند باعث میشود تا سیاستهای امنیتی به صورت پویا آپدیت شوند. فرانچسکی معتقد است این دقیقاً شبیه تعامل با یک کارمند انسانی است. کارمندان در صورت برخورد با بنبست، از مدیر خود سوال میپرسند. این مدل همکاری، اعتماد را در محیط کار افزایش میدهد.
شرکت برکس یک شرکت امنیت سایبری نیست. اما نبود ابزارهای مناسب در بازار آنها را مجبور به نوآوری کرد. آنها ترجیح دادند به جای توقف، مسیر جدیدی را خلق کنند. این درس بزرگی برای تمام رهبران کسبوکارهای مدرن است.
آینده استقرار هوش مصنوعی در سازمانهای پیشرو
بسیاری از ابزارهای فعلی بازار در ماههای آینده تکامل خواهند یافت. برکس میداند که ممکن است ابزار خود را در آینده کنار بگذارد. اما دانش کسب شده در این مسیر بسیار ارزشمند است. آنها اکنون شش ماه از رقبای خود در بازار جلوتر هستند.
- شناسایی دقیق نیازهای امنیتی عاملهای هوشمند.
- ایجاد فرهنگ پذیرش تکنولوژیهای نوظهور در سازمان.
- توسعه زیرساختهای لازم برای نظارت بر شبکه.
- آموزش تیمهای فنی برای کار با عاملهای هوشمند.
استقرار هوش مصنوعی در سازمان یک انتخاب نیست، بلکه یک ضرورت است. شرکتهایی که امروز برای امنیت خود سرمایهگذاری نکنند، فردا آسیبپذیر خواهند بود. رویکرد برکس نشان داد که نباید از نوآوری ترسید. بلکه باید با ابزارهای هوشمند، خطرات آن را مدیریت کرد.
در نهایت، هدف نهایی ایجاد محیطی امن برای همکاری انسان و ماشین است. امنیت عاملهای هوش مصنوعی پایه و اساس این همکاری بلندمدت خواهد بود. با استفاده از روشهای شبکهمحور، آینده روشنی در انتظار تحول دیجیتال است.
منبع:
https://venturebeat.com/orchestration/brex-assumes-its-ai-agents-could-do-anything-so-it-watches-the-network-not-the-code
مطالب مرتبط