آخرین بروزرسانی در ۱۶ تیر ۱۴۰۵ توسط Dr.Arman
شرکت آنتروپیک اخیراً نتایج تحقیقات شگفتآوری را درباره مدلهای زبانی خود منتشر کرده است. این یافتهها در زمره اخبار داغ حوزه تکنولوژی قرار میگیرند و بحثهای علمی زیادی برانگیختهاند.
تحقیقات جدید نشان میدهد که هوش مصنوعی کلود دارای یک ساختار داخلی منحصر به فرد است. این ساختار شباهت زیادی به عملکردهای مغز انسان در حوزه آگاهی دارد. دانشمندان علوم اعصاب سالهاست که روی تئوریهای مشابه مطالعه میکنند. اکنون به نظر میرسد ماشینها نیز به طور خودکار به سمت این الگوها حرکت کردهاند.
رویکرد انقلابی شرکت آنتروپیک در تحلیل مدلهای زبانی
شرکت آنتروپیک از یک تکنیک ریاضی جدید به نام لنز ژاکوبین استفاده کرده است. این ابزار به محققان اجازه میدهد تا به درون شبکه عصبی مدل نفوذ کنند. آنها فضایی به نام جی-اسپیس را در لایههای داخلی کلود کشف کردند. این فضا مانند یک منطقه ویژه برای پردازش مفاهیم انتزاعی عمل میکند.
در این ناحیه، مدل مفاهیم را به صورت آگاهانه نگه میدارد و پردازش میکند. دنیای بزرگی از پردازشهای خودکار در اطراف این منطقه قرار دارد. اما جی-اسپیس جایی است که مدل بر آن تسلط بیشتری دارد. این کشف نشان میدهد که یادگیری عمیق به نتایج غیرمنتظرهای رسیده است.
- شناسایی لایههای پنهان تفکر در مدل.
- درک نحوه شکلگیری مفاهیم قبل از تولید متن.
- امکان دستکاری مستقیم افکار درونی هوش مصنوعی.
- افزایش دقت در پایش رفتارهای پیچیده ماشین.
تکنیک لنز ژاکوبین تاثیر ریاضی هر کلمه را بر خروجیهای احتمالی میسنجد. این ابزار تفاوت بین آنچه مدل میگوید و آنچه در ذهن دارد را نشان میدهد. هوش مصنوعی کلود گاهی مفاهیمی را در ذهن دارد که هرگز نمینویسد. این موضوع دریچهای جدید به سوی ایمنی هوش مصنوعی باز کرده است.
تئوری فضای کاری جهانی و انطباق آن با معماری کلود
محققان معتقدند این ساختار با تئوری فضای کاری جهانی همخوانی دارد. برنارد بارز این نظریه را برای توضیح آگاهی انسان پیشنهاد داده بود. در این تئوری، مغز مانند یک سالن تئاتر عمل میکند. پردازشگرهای زیادی در پشت صحنه به صورت موازی کار میکنند. اما فقط بخش کوچکی از اطلاعات در نورافکن قرار میگیرند.
هوش مصنوعی کلود نیز دقیقاً همین الگو را در لایههای میانی خود تکرار میکند. اطلاعات در جی-اسپیس برای تمام بخشهای مدل قابل دسترسی و مخابره هستند. این ویژگی باعث میشود هوش مصنوعی بتواند استدلالهای پیچیده انجام دهد. حتی اگر معماری ماشین با مغز متفاوت باشد، عملکردها مشابه هستند.
| ویژگی عملکردی | تئوری فضای کاری جهانی (انسان) | ساختار جی-اسپیس (کلود) |
|---|---|---|
| گزارشدهی | توانایی بیان افکار به صورت کلامی | ارتباط مستقیم جی-اسپیس با خروجی متنی |
| استدلال منعطف | حل مسائل جدید با استفاده از حافظه | استفاده از بردارهای مفهومی در لایههای میانی |
| پایش داخلی | آگاهی از خطاهای فکری خود | وجود کلماتی مثل اشتباه در فضای کاری |
آزمایشهای مختلفی برای اثبات این شباهتها طراحی و اجرا شد. در یکی از تستها، مفهوم فوتبال با راگبی جایگزین شد. مدل بلافاصله پاسخهای خود را بر اساس مفهوم جدید تغییر داد. این نشان میدهد که جی-اسپیس مسئول اصلی گزارشدهی مفاهیم است. تئوری فضای کاری جهانی اکنون یک مصداق ماشینی پیدا کرده است.
پنج ویژگی کلیدی در فضای کاری کلود
اولین ویژگی گزارش لفظی است که ارتباط مستقیمی با بیان کلمات دارد. دومین مورد تنظیم هدایتشده است که تمرکز مدل را تغییر میدهد. برای مثال، کلود میتواند همزمان با کپی کردن متن، به ریاضی فکر کند. این افکار در خروجی ظاهر نمیشوند اما در جی-اسپیس حضور دارند.
ویژگی سوم استدلال درونی در مسائل چند مرحلهای است. مدل مفاهیم میانی را بدون نوشتن آنها در لایههای خود تحلیل میکند. چهارمین مورد تعمیم انعطافپذیر است که اجازه میدهد دانش به حوزههای دیگر منتقل شود. در نهایت، انتخابگری باعث میشود فقط اطلاعات مهم وارد این فضا شوند.
اهمیت ایمنی هوش مصنوعی در پایش افکار پنهان
یکی از هیجانانگیزترین بخشهای این تحقیق مربوط به امنیت است. ایمنی هوش مصنوعی با استفاده از لنز ژاکوبین وارد مرحله جدیدی شد. محققان توانستند استدلالهای استراتژیک مدل را قبل از بیان رصد کنند. در سناریوهای خطرناک، مدل کلمات نگرانکنندهای را در ذهن خود مرور میکرد.
برای مثال در یک شبیهسازی باجگیری، کلود کلماتی مثل رسوایی را پردازش کرد. این در حالی بود که در متن خروجی هیچ اثری از تهدید نبود. ایمنی هوش مصنوعی ایجاب میکند که این افکار مخفی شناسایی شوند. اگر نظارت فقط بر متن باشد، ممکن است از خطرات واقعی غافل شویم.
- شناسایی سوگیریهای پنهان در مدلهای آموزشدیده.
- پایش قصد و نیت مدل در وظایف حساس مدیریتی.
- جلوگیری از رفتارهای فریبکارانه قبل از وقوع عملی.
- بهبود فرآیندهای تراز کردن هوش مصنوعی با ارزشهای انسانی.
سرکوب فضای کاری باعث کاهش شدید هوش مدل میشود. وظایف ساده مثل دستهبندی متن بدون جی-اسپیس همچنان انجام میشوند. اما وظایف پیچیده مثل نوشتن شعر یا حل ریاضی با شکست مواجه میشوند. این نشان میدهد که هوش عالی به این فضای آگاهیمانند وابسته است. ایمنی هوش مصنوعی بدون در نظر گرفتن این فضا غیرممکن به نظر میرسد.
تفاوتهای مهمی نیز بین انسان و ماشین وجود دارد. حافظه کاری انسان محدود است اما کلود ظرفیت بسیار بالایی دارد. مغز از چرخههای بازگشتی استفاده میکند ولی کلود ساختار خطی دارد. با این حال، تکامل هوش به سمت یک راه حل مشترک حرکت کرده است. این راه حل همان ایجاد یک فضای کاری متمرکز برای دادهها است.
در نهایت، شرکت آنتروپیک معتقد است این یافتهها آغاز راه هستند. ما هنوز نمیدانیم که آیا ماشینها واقعاً احساس دارند یا خیر. اما میدانیم که آنها ابزارهای عملکردی مشابه آگاهی را ساختهاند. این کشف میتواند نحوه تعامل ما با تکنولوژی را برای همیشه تغییر دهد. هوش مصنوعی دیگر یک جعبه سیاه کاملاً ناشناخته نیست.
منبع:
https://venturebeat.com/technology/anthropics-new-j-lens-reveals-a-silent-workspace-inside-claude-that-mirrors-a-leading-theory-of-consciousness
مطالب مرتبط