آخرین بروزرسانی در ۲۴ شهریور ۱۴۰۵ توسط Dr.Arman
اخبار داغ دنیای فناوری نشان میدهد که بحث بر سر مقرراتگذاری در هوش مصنوعی به اوج خود رسیده است. این موضوع اکنون به میدانی برای تقابل غولهای فناوری و حامیان دسترسی آزاد تبدیل شده است.
داریو آمودی، مدیرعامل شرکت آنتروپیک، اخیراً طرحی برای کاهش سرعت توسعه هوش مصنوعی ارائه داده است. او معتقد است که توسعه لبه تکنولوژی باید با نظارت دقیق دولتها انجام شود. طرح او شامل سه بخش اصلی است. استقرار ارزیابان شخص ثالث در آزمایشگاههای پیشرو اولین گام است. لغو محدودیتهای ضدانحصار برای همکاری شرکتها دومین پیشنهاد اوست. در نهایت، او به دنبال یک معاهده بینالمللی برای کنترل این فناوری است.
بسیاری از کارشناسان این اقدام را یک استراتژی برای ایجاد انحصار میدانند. آنها معتقدند آنتروپیک به دنبال کشیدن نردبان پشت سر خود است. این شرکت مدلهای متمرکز میسازد و دسترسی کنترلشده میفروشد. تبدیل این انتخابهای تجاری به الزامات قانونی، رقابت را برای دیگران دشوار میکند. این روش دقیقاً مشابه ساختن یک خندق دور قلعه است. به روستاییان گفته میشود که کروکودیلها برای محافظت از آنها هستند.
تهدید مدلهای متنباز در سایه قوانین جدید
توسعه مدلهای متنباز یک مسیر کاملاً متفاوت را دنبال میکند. در این مدل، محققان کدهای خود را منتشر میکنند. دیگران میتوانند این مدلها را دانلود و شخصیسازی کنند. این استقلال یک تهدید جدی برای شرکتهای متمرکز است. مدلهای متنباز هزینهها را کاهش میدهند. آنها وابستگی به فروشندگان بزرگ را از بین میبرند. استارتآپها میتوانند بدون پرداخت اجاره به آزمایشگاههای بزرگ، محصول بسازند.
طرح آمودی هرگز به صراحت نامی از مدلهای متنباز نمیبرد. او از واژه هوش مصنوعی لبه استفاده میکند. با این حال، ساختار پیشنهادی او علیه مدلهای آزاد عمل میکند. یک ناظر دولتی نمیتواند درون هر لپتاپ یا سرور دانشگاهی حضور داشته باشد. این یعنی مدلهای آزاد عملاً غیرقانونی یا محدود خواهند شد. آمودی معتقد است نمیتوان برای فایلی که همه به آن دسترسی دارند، حفاظ امنیتی ساخت. او نگران است که وزنهای مدل پس از انتشار دیگر قابل بازگشت نباشند. او مدلهای متنباز را به راکونی تشبیه میکند که وارد محله شده است.
در ماه سپتامبر، پیشنهادات او سختگیرانهتر شده است. او بر صدور گواهینامههای خاص برای توانمندیهای مدل تاکید دارد. این گواهینامهها باید همراه مدل باشند. برای مدلی مثل کلود، این کار هزینهای ندارد. کلود تحت نظارت مستقیم آنتروپیک است. اگر گواهینامهای لغو شود، آنها دسترسی عمومی را قطع میکنند. اما یک فایل متنباز هیچ زنجیری ندارد. یک دانشجو میتواند ویژگیهای امنیتی آن را در یک بعدازظهر حذف کند. این یعنی هیچ مدل متنبازی نمیتواند استانداردهای پیشنهادی او را پاس کند.
- محدودیت در انتشار وزنهای مدلهای قدرتمند
- الزام به دریافت مجوزهای دولتی پیش از عرضه
- هزینههای بالای انطباق با استانداردهای نظارتی
- کاهش توان رقابتی استارتآپهای کوچک
ضرورت توسعه ایمن هوش مصنوعی و چالشهای نظارتی
توسعه ایمن هوش مصنوعی یک هدف ارزشمند است. اما ابزارهای رسیدن به آن نباید مانع نوآوری شوند. آمودی پیشنهاد داده است که شرکتهای بزرگ در مورد سرعت پیشرفت توافق کنند. این کار در قانون به عنوان تشکیل کارتل شناخته میشود. وزارت دادگستری آمریکا معمولاً با چنین توافقاتی مخالفت میکند. هماهنگی رقبا بر سر سرعت تولید، قیمتها را بالا میبرد. این کار باعث سرکوب نوآوری در کل صنعت میشود. آزمایشگاههای پیشرو میخواهند سرعت کل صنعت را تعیین کنند.
ایمنی نباید به پوششی برای فعالیتهای ضدرقابتی تبدیل شود. اگر همه با سرعت کاهشیافته حرکت کنند، جایگاه فعلی شرکتها تثبیت میشود. شرکتی که پیشرو است، از کاهش سرعت ضرر کمتری میبیند. اما شرکتهای در حال رشد دیگر نمیتوانند فاصله را جبران کنند. این یک بازی برد-برد برای بازیگران فعلی بازار است. آنها از خطرات وجودی صحبت میکنند تا قوانین را خودشان بنویسند. اتاقهای فکر آنها اکنون پر از اسلایدهای مربوط به ریسکهای بزرگ است.
تاریخ نشان داده است که دولتها همیشه به دنبال کنترل فناوریهای مفید بودهاند. از مجوزهای چاپ در قرن هفدهم تا کنترل صادرات رمزنگاری در قرن بیستم. هیچکدام از این تلاشها موفق به پاک کردن دانش نشدهاند. ایدهها مثل آب باران راه خود را پیدا میکنند. جریمه کردن مخترع یا مصادره دستگاه چاپ آسان است. اما جلوگیری از گسترش یک ایده علمی تقریباً غیرممکن است. مقرراتگذاری در هوش مصنوعی نیز با همین چالش روبروست.
- شناسایی دقیق ریسکهای بیولوژیکی و سایبری
- تعیین مسئولیت شخصی برای مهندسان ناظر
- ایجاد استانداردهای باز برای ارزیابی مدلها
- جلوگیری از انحصارات دولتی و شرکتی
تأثیر قوانین ضدانحصار بر رقابت در بازار فناوری
در حال حاضر رقابت در بازار فناوری به شدت تحت تأثیر مدلهای چینی است. شرکتهایی مثل علیبابا با مدل Qwen بازار را قبضه کردهاند. آمارها نشان میدهد Qwen حدود ۲ میلیارد بار دانلود شده است. این در حالی است که مدلهای متا تنها ۲۲۷ میلیون دانلود داشتهاند. چین از استراتژی متنباز برای تسلط بر جهان استفاده میکند. آنها مدلهای ارزان و در دسترس را به استانداردهای جهانی تبدیل میکنند.
طرح آمودی میتواند به برتری استراتژیک چین کمک کند. محدود کردن مدلهای آمریکایی، فضا را برای رقبای شرقی باز میکند. در حالی که ما به دنبال ایجاد گلوگاه هستیم، آنها در حال گسترش اکوسیستم خود هستند. این یک خطای استراتژیک بزرگ است. قدرت در دنیای امروز به دنبال اکوسیستمها میرود. اگر مدلهای چینی به پیشفرض جهانی تبدیل شوند، استانداردهای آنها حاکم خواهد شد. این موضوع امنیت ملی و اقتصادی را به خطر میاندازد.
| ویژگی | مدلهای بسته (مانند کلود) | مدلهای متنباز (مانند لاما) |
|---|---|---|
| کنترل دسترسی | متمرکز و تحت نظارت شرکت | آزاد و غیرمتمرکز | هزینه استفاده | پرداخت به ازای هر توکن | رایگان (هزینه فقط برای سختافزار) | قابلیت شخصیسازی | بسیار محدود | کامل و بدون محدودیت | شفافیت امنیتی | بر اساس ادعای شرکت | قابل بررسی توسط جامعه جهانی |
پیشنهاد جایگزین این است که به جای تنظیم ریاضیات، رفتارها را تنظیم کنیم. مهندسان باید مانند پزشکان یا خلبانان دارای مجوز باشند. اگر یک سیستم هوش مصنوعی آسیب برساند، باید فرد مسئول پاسخگو باشد. مجوز باید به رفتار فرد تعلق بگیرد، نه به کد یا فایل. این سیستم غیرمتمرکز است و مانع تحقیق و انتشار دانش نمیشود. انتشار وزنهای مدل باید به عنوان آزادی بیان تلقی شود. اما استقرار آنها در زیرساختهای حیاتی نیاز به امضای مهندس مسئول دارد.
کنگره آمریکا باید حملات سایبری و کلاهبرداریهای مجهز به هوش مصنوعی را ممنوع کند. شرکتهایی که عوامل خودکار خطرناک را بدون مهار منتشر میکنند، باید مسئولیت مدنی داشته باشند. اما تحقیق و انتشار نتایج علمی باید آزاد بماند. برتری تکنولوژیک آمریکا نتیجه عدم نیاز به اجازه از صاحبان قدرت بوده است. هیچ پادشاه یا کلیسایی نباید حرف آخر را در مورد ساخت آینده بزند. طرح آمودی این اصل را وارونه میکند. او میخواهد نوآوری بدون اجازه را با مدلهای از پیش تأیید شده جایگزین کند.
در نهایت، این بحث فراتر از یک جدال فنی است. این نبردی برای تعیین آینده دموکراسی و آزادی در عصر دیجیتال است. ما نباید اجازه دهیم ترس از آینده، ما را به سمت ایجاد یک الیگارشی فناورانه سوق دهد. ایمنی واقعی از طریق شفافیت، مسئولیتپذیری و رقابت آزاد به دست میآید. نه از طریق توافقات پشت درهای بسته و ایجاد خندقهای قانونی. مقرراتگذاری در هوش مصنوعی باید در خدمت بشریت باشد، نه در خدمت سود شرکتهای بزرگ.
منبع:
https://venturebeat.com/technology/amodeis-ai-slowdown-plan-never-says-open-weights-it-doesnt-have-to
مطالب مرتبط