چالش‌های امنیتی در مدل‌های هوش مصنوعی متن‌باز

آخرین بروزرسانی در ۱۴ مرداد ۱۴۰۵ توسط Dr.Arman

در دنیای اخبار تکنولوژی، رقابت شدیدی میان غول‌های هوش مصنوعی شکل گرفته است. مدل‌های هوش مصنوعی متن‌باز اکنون به توانمندی‌های مدل‌های پیشرو نزدیک شده‌اند. با این حال، شکاف امنیتی میان این دو گروه همچنان نگران‌کننده باقی مانده است.

روند توسعه هوش مصنوعی در بازارهای جهانی

مدل GLM-5.2 از شرکت چینی Z.ai نمونه‌ای از پیشرفت سریع است. این مدل تنها چند ماه با مدل‌های پیشرفته فاصله دارد. گزارش‌های اخیر نشان می‌دهد که این فاصله در حال کاهش است. مدل‌های جی‌پی‌تی و کلود همچنان در صدر هستند. اما مدل‌های متن‌باز به سرعت جایگاه خود را پیدا می‌کنند.

توسعه هوش مصنوعی با سرعت بسیار زیادی ادامه دارد. این پیشرفت‌ها چالش‌های جدیدی برای قانون‌گذاران ایجاد کرده است. مدل‌های متن‌باز پتانسیل‌های بی‌نظیری برای محققان فراهم می‌کنند. اما این مدل‌ها در زمینه‌های حساس ریسک‌هایی دارند. قابلیت‌های سایبری و بیولوژیکی این مدل‌ها به دقت بررسی می‌شوند.

مؤسسه SaferAI گزارش جدیدی در این زمینه منتشر کرده است. این گزارش عملکرد مدل‌های مختلف را با هم مقایسه می‌کند. نتایج نشان‌دهنده یک واقعیت تلخ در حوزه امنیت است. مدل‌های متن‌باز در برابر درخواست‌های مخرب مقاومت کمی دارند. این موضوع زنگ خطری برای امنیت جهانی است.

تحلیل خطرات امنیت سایبری در مدل‌های نوین

خطرات امنیت سایبری در مدل‌های بدون محافظ بسیار جدی است. مدل GLM-5.2 هیچ‌کدام از وظایف تهاجمی را رد نکرد. این وظایف شامل حملات سایبری و استفاده‌های بیولوژیکی بودند. در مقابل، مدل کلود عملکرد کاملاً متفاوتی از خود نشان داد. کلود به طور مداوم از انجام درخواست‌های مخرب خودداری کرد.

این تفاوت ریشه در معماری و کنترل‌های امنیتی دارد. مدل‌های متن‌باز پس از دانلود کاملاً در اختیار کاربر هستند. هیچ راهی برای نظارت بر نحوه استفاده از آن‌ها وجود ندارد. کاربران می‌توانند کدهای مخرب را به راحتی اجرا کنند. این موضوع کنترل فناوری را برای دولت‌ها دشوار می‌کند.

توسعه‌دهندگان مدل‌های بسته از فیلترهای لایه‌بندی شده استفاده می‌کنند. آن‌ها آموزش‌های امتناع را به مدل‌های خود اضافه می‌کنند. اما در مدل‌های متن‌باز، این فیلترها قابل حذف هستند. هر کسی می‌تواند وزن‌های مدل را روی سخت‌افزار شخصی اجرا کند. تغییر دستورات سیستمی در این حالت بسیار ساده است.

• افزایش احتمال حملات فیشینگ پیشرفته با هوش مصنوعی.
• سهولت در کشف آسیب‌پذیری‌های نرم‌افزاری توسط هکرها.
• تولید کدهای مخرب برای بدافزارهای ناشناخته.
• دسترسی به اطلاعات حساس در حوزه‌های بیولوژیکی.

چالش‌های فیلترینگ داده‌ها در آموزش مدل

فیلتر کردن داده‌های آموزشی یکی از راه‌های مقابله است. شرکت‌ها سعی می‌کنند اطلاعات مخرب را از مجموعه‌ها حذف کنند. اما این کار در حوزه کدنویسی بسیار دشوار است. مدلی که در کدنویسی عالی باشد، احتمالا هکر خوبی است. تداخل میان مهارت‌های مفید و مخرب یک مشکل فنی است.

بسیاری از شرکت‌ها تحت فشار اقتصادی هستند. آن‌ها می‌خواهند قابلیت‌های کدنویسی مدل‌ها را مدام بهبود دهند. این بهبودها ناخواسته باعث افزایش توانایی‌های تهاجمی می‌شود. توازن میان سودآوری و امنیت به سختی برقرار می‌شود. محققان به دنبال روش‌های نوین برای جداسازی این مهارت‌ها هستند.

رویکرد چین در توسعه هوش مصنوعی و امنیت

سیاست‌های چین در حوزه هوش مصنوعی بسیار پیچیده است. رهبران چین بر اهمیت مدل‌های متن‌باز تاکید دارند. آن‌ها معتقدند هوش مصنوعی باید تحت کنترل انسان باشد. اما تمرکز اصلی آن‌ها بر ثبات اجتماعی و محتوای سیاسی است. ریسک‌های فاجعه‌بار سایبری در اولویت‌های بعدی قرار دارند.

محققان معتقدند چین سیستم نظارتی قدرتمندی در داخل دارد. آن‌ها بر فعالیت‌های آنلاین کاربران خود به دقت نظارت می‌کنند. شرکت‌ها در چین مسئولیت سنگینی در برابر محتوا دارند. اما این کنترل‌ها خارج از مرزهای چین بی‌‌اثر است. وقتی وزن‌های مدل منتشر شوند، کنترل آن‌ها غیرممکن می‌شود.

1. ارزیابی دقیق مدل‌ها پیش از انتشار عمومی.
2. انتشار گزارش‌های ارزیابی ریسک برای شفافیت بیشتر.
3. محدود کردن دسترسی به وزن‌های مدل‌های بسیار خطرناک.
4. همکاری با نهادهای نظارتی بین‌المللی برای وضع قوانین.

حامیان مدل‌های متن‌باز دیدگاه متفاوتی نسبت به امنیت دارند. آن‌ها معتقدند این مدل‌ها به دفاع سایبری کمک می‌کنند. شرکت‌ها می‌توانند از این مدل‌ها برای شناسایی تهدیدها استفاده کنند. هادینگ فیس از مدل GLM-5.2 برای دفاع استفاده کرده است. این نگاه بر این باور است که شفافیت امنیت می‌آورد.

با این حال، سرعت مهاجمان همیشه بیشتر از مدافعان است. گروه‌های باج‌افزاری روش‌های خود را سریعاً تغییر می‌دهند. اما نهادهای عمومی مانند بیمارستان‌ها انعطاف‌پذیری کمتری دارند. دسترسی همگانی به ابزارهای خطرناک می‌تواند فاجعه‌آفرین باشد. باید میان دسترسی آزاد و امنیت تعادل برقرار کرد.

در نهایت، آینده هوش مصنوعی به مدیریت ریسک بستگی دارد. مدل‌های متن‌باز بخشی جدایی‌ناپذیر از این اکوسیستم هستند. اما نباید اجازه داد توانمندی‌های خطرناک آزادانه پخش شوند. صنعت باید به سمت استانداردهای ایمنی مشترک حرکت کند. تنها در این صورت می‌توان از مزایای این فناوری بهره برد.

منبع:

Open-weight AI models are catching up to the frontier. The safety gap remains.