پایان دوران ترنسفورمرها با Subquadratic؟ استارتاپی که معمای ۱۰ ساله هوش مصنوعی را حل کرد

5/5 - (1 امتیاز)

آخرین بروزرسانی در ۲۹ خرداد ۱۴۰۵ توسط Dr.Arman

تصور کنید بخواهید محتوای ۴۰۰ سند پیچیده حقوقی یا کل کدهای یک نرم‌افزار عظیم را در چند ثانیه تحلیل کنید، آن هم با هزینه‌ای کمتر از خرید یک فنجان قهوه. استارتاپی در میامی ادعا می‌کند کلیدی را پیدا کرده که قفل بزرگترین محدودیت هوش مصنوعی در یک دهه اخیر را باز می‌کند. این موضوع امروز به یکی از «اخبار داغ» و جنجالی‌ترین بحث‌های محافل تکنولوژی تبدیل شده است.

چرا همه درباره Subquadratic حرف می‌زنند؟

دنیای هوش مصنوعی این روزها تحت سیطره مدلی به نام «ترنسفورمر» است؛ همان مغز متفکری که پشت چت‌جی‌پی‌تی و کلود قرار دارد. اما ترنسفورمرها یک نقطه ضعف بزرگ دارند: هرچه متنی که به آن‌ها می‌دهید طولانی‌تر شود، قدرت پردازش آن‌ها به صورت نمایی ضعیف‌تر و هزینه‌شان سنگین‌تر می‌شود. حالا استارتاپی به نام Subquadratic از حالت مخفیانه خارج شده و ادعا می‌کند این گلوگاه ریاضی را شکسته است.

وقتی آن‌ها برای اولین بار این ادعا را مطرح کردند، موجی از ناباوری جامعه هوش مصنوعی را فرا گرفت. برخی آن را بزرگترین جهش بعد از اختراع ترنسفورمر نامیدند و برخی دیگر با بدبینی آن را «ترانوسِ دنیای هوش مصنوعی» خطاب کردند (اشاره به کلاهبرداری بزرگ الیزابت هولمز). اما حالا این شرکت با مدارک و نتایج تست‌های مستقل بازگشته است تا ثابت کند ادعایشان فقط یک مانور تبلیغاتی نیست.

کابوسی به نام «رشد کوادراتیک» که هوش مصنوعی را فلج کرده است

برای اینکه بفهمید چرا کار این استارتاپ مهم است، باید بدانید هوش مصنوعی چطور مطالعه می‌کند. قلب تپنده مدل‌های امروزی فرآیندی به نام «توجه غلیظ» (Dense Attention) است. وقتی شما یک جمله ۱۰ کلمه‌ای به هوش مصنوعی می‌دهید، مدل باید هر کلمه را با تمام ۹ کلمه دیگر مقایسه کند تا معنای دقیق را بفهمد. تا اینجا مشکلی نیست.

اما فاجعه زمانی رخ می‌دهد که تعداد کلمات زیاد شود. اگر طول متن را دو برابر کنید، حجم محاسبات مورد نیاز چهار برابر می‌شود. این همان چیزی است که به آن توسعه «کوادراتیک» یا مرتبه دوم می‌گویند. برای درک بهتر، یک دایره را تصور کنید که دور آن نقاطی چیده شده است. اگر ۵ نقطه داشته باشید و بخواهید هر نقطه را با خطی به بقیه وصل کنید، ۱۰ خط خواهید داشت. اما اگر نقاط را به ۲۰ برسانید، تعداد خطوط به ۱۹۰ می‌رسد! حالا تصور کنید بخواهید کتابی مثل «گتسبی بزرگ» را به این روش تحلیل کنید؛ حجم محاسبات سرسام‌آور می‌شود.

همین موضوع باعث شده که مدل‌های فعلی در پردازش فایل‌های بسیار حجیم، کند و به شدت پرمصرف باشند. غول‌های فناوری مثل گوگل و اوپن‌ای‌آی سالانه میلیاردها دلار صرف انرژی برق می‌کنند تا فقط این محاسبات سنگین را انجام دهند. شکستن این قاعده ریاضی، به معنای ورود به عصری است که در آن هوش مصنوعی دیگر محدود به چند صفحه متن نخواهد بود.

جادوی «توجه انتخابی»؛ وقتی کمتر، بیشتر است

استارتاپ Subquadratic برای حل این مشکل، معماری جدیدی به نام SubQ را معرفی کرده است. راز موفقیت آن‌ها در جایگزین کردن «توجه غلیظ» با «توجه پراکنده» (Sparse Attention) نهفته است. ایده پشت این تکنیک بسیار ساده و در عین حال هوشمندانه است: همه کلمات در یک متن به یک اندازه اهمیت ندارند که بخواهیم هر کدام را با بقیه مقایسه کنیم.

الکس ودون، هم‌بنیان‌گذار این شرکت، می‌گوید: «وقتی شما یک کتاب می‌خوانید، کلمه اول را با کلمه دوم، بعد کلمه اول را با کلمه سوم مقایسه نمی‌کنید؛ این کار دیوانه‌کننده است! مغز ما به صورت غریزی فقط روی روابط مهم تمرکز می‌کند.» SubQ هم دقیقا همین کار را انجام می‌دهد. اما تفاوت بزرگ آن‌ها با تلاش‌های قبلی این است که این مدل به صورت «دینامیک» و در لحظه تصمیم می‌گیرد کدام بخش‌های متن مهم هستند.

در مدل‌های قدیمی‌ترِ «توجه پراکنده»، سیستم از الگوهای ثابت استفاده می‌کرد (مثلاً همیشه کلمه اول را با کلمه پنجم مقایسه می‌کرد)، اما زبان بسیار پیچیده‌تر از این الگوهای خطی است. سس مخفی Subquadratic اینجاست که مدل آن‌ها یاد گرفته چطور مثل یک انسان، روی بخش‌های کلیدی تمرکز کند بدون اینکه کیفیت درک متن افت کند. این یعنی حذف میلیون‌ها محاسبه غیرضروری و رسیدن به سرعتی که تا پیش از این غیرممکن به نظر می‌رسید.

وقتی ۸ دلار جایگزین ۲۶۰۰ دلار می‌شود!

شاید بپرسید این اعداد و ارقام در دنیای واقعی چه معنایی دارند؟ نتایج تست‌های شرکت شخص ثالث Appen نشان می‌دهد که SubQ در تست‌های سرعت، حدود ۵۶ برابر سریع‌تر از تکنولوژی‌های قبلی عمل کرده است. اما بخش شگفت‌انگیز ماجرا مربوط به هزینه‌هاست. جاستین دنگل، مدیرعامل شرکت، ادعای عجیبی را مطرح کرده است.

او می‌گوید برای اجرای یک تست سنگین بازیابی اطلاعات (تست RULER 128 شرکت انویدیا) روی مدل قدرتمند Opus 4.6 شرکت آنتروپیک، حدود ۲۶۰۰ دلار هزینه لازم است. اما آن‌ها همان تست را با مدل SubQ تنها با ۸ دلار انجام داده‌اند! این یعنی کاهش هزینه‌ای در ابعاد باورنکردنی که می‌تواند دسترسی به هوش مصنوعی فوق‌پیشرفته را برای شرکت‌های کوچک هم ممکن کند.

علاوه بر هزینه، بحث «پنجره بافت» یا همان حافظه موقت مدل هم مطرح است. اکثر مدل‌های برتر بازار می‌توانند حدود یک میلیون توکن (تقریباً معادل یک کتاب حجیم) را در حافظه خود نگه دارند. اما SubQ ادعا می‌کند پنجره بافت آن به ۱۲ میلیون توکن می‌رسد. در یک دموی زنده، این مدل توانست محتوای ۴۰۰ سند مختلف را در چند ثانیه تحلیل کند و به سوالات پاسخ دهد، در حالی که ابزارهای مشهوری مثل Perplexity حتی در بارگذاری این حجم از اسناد شکست خوردند.

آیا با یک «الیزابت هولمز» جدید طرف هستیم؟

با وجود این نتایج درخشان، هنوز سایه سنگین شک و تردید بر سر این استارتاپ سنگینی می‌کند. چرا؟ چون آن‌ها هنوز دسترسی عمومی به مدل خود را فراهم نکرده‌اند و لیست انتظاری طولانی برای مشتریان سازمانی ساخته‌اند. منتقدان می‌گویند نتایج آزمایشگاهی همیشه بازتاب‌دهنده عملکرد واقعی در دنیای پیچیده بیرون نیستند.

یکی از جنجالی‌ترین نکات این است که Subquadratic برای ساخت مدل خود، از وزن‌های مدل متن‌باز چینی Qwen استفاده کرده و آن را بازسازی کرده است. برخی متخصصان می‌گویند اگر آن‌ها واقعاً معماری هوش مصنوعی را از ریشه تغییر داده‌اند، چرا مدل را از صفر آموزش نداده‌اند؟ این موضوع باعث شده برخی محققان مستقل بگویند که اگرچه آن‌ها ابزار مفیدی ساخته‌اند، اما هنوز ثابت نشده که واقعاً «گلوگاه کوادراتیک» را به طور کامل حل کرده باشند.

با این حال، تیم سازنده معتقد است که برای رقابت با غول‌هایی مثل OpenAI، چاره‌ای جز نوآوری‌های رادیکال نداشتند. آن‌ها می‌گویند به عنوان یک تیم کوچک، نمی‌توانستند با روش‌های سنتی به جنگ شرکت‌هایی بروند که میلیاردها دلار بودجه و هزاران پردازنده گرافیکی در اختیار دارند. آن‌ها مجبور بودند راه میان‌بری پیدا کنند که هوشمندانه‌تر باشد، نه فقط بزرگتر.

ارزش کاربردی برای شما: این تکنولوژی چه تغییری در زندگی ما ایجاد می‌کند؟

اگر شما به عنوان یک علاقه‌مند به هوش مصنوعی یا برنامه‌نویس به این موضوع نگاه کنید، متوجه می‌شوید که این فقط یک بحث ریاضی خشک نیست. موفقیت مدل‌هایی مثل SubQ می‌تواند چند تغییر اساسی در نحوه استفاده ما از تکنولوژی ایجاد کند:

  • تحلیل کدهای عظیم: برنامه‌نویسان می‌توانند کل کدبیس یک پروژه را به هوش مصنوعی بدهند و در لحظه بپرسند که یک باگ خاص در کجا مخفی شده است.
  • کاهش هزینه‌های اشتراک: اگر هزینه پردازش مدل‌ها تا این حد کاهش یابد، به زودی شاهد ابزارهای بسیار قدرتمندی خواهیم بود که یا رایگان هستند یا قیمت بسیار ناچیزی دارند.
  • هوش مصنوعی سبزتر: یکی از بزرگترین انتقادات به AI، مصرف وحشتناک برق است. مدل‌های Sub-quadratic با حذف محاسبات اضافی، قدم بزرگی به سمت هوش مصنوعی دوست‌دار محیط زیست برمی‌دارند.
  • دستیار شخصی واقعی: تصور کنید دستیاری داشته باشید که تمام ایمیل‌ها، چت‌ها و اسناد شما در ۵ سال گذشته را در حافظه آنی خود دارد و می‌تواند بر اساس آن‌ها به شما مشورت دهد.

نتیجه‌گیری: آیا ترنسفورمرها بازنشسته می‌شوند؟

ما در لحظه حساسی از تاریخ هوش مصنوعی ایستاده‌ایم. اگر ادعاهای Subquadratic به طور کامل در مقیاس وسیع تایید شود، دوران فرمانروایی مطلق ترنسفورمرها که از سال ۲۰۱۷ شروع شده بود، به پایان خود نزدیک می‌شود. مدیرعامل این شرکت با اطمینان می‌گوید: «ما فکر نمی‌کنیم تا چند سال دیگر کسی سراغ ساخت مدل بر پایه ترنسفورمر برود.»

بیایید به سوال ابتدایی برگردیم؛ آیا این یک انقلاب است یا یک ادعای توخالی؟ شواهد فعلی و تست‌های شرکت Appen کفه ترازو را به نفع این استارتاپ سنگین کرده است، اما تا زمانی که هزاران کاربر به طور همزمان از آن استفاده نکنند، نمی‌توان حکم قطعی صادر کرد. چیزی که مشخص است این است که عطش برای کارایی و سرعت، مسیر آینده را تعیین خواهد کرد.

نظر شما چیست؟ آیا فکر می‌کنید یک استارتاپ کوچک می‌تواند غول‌هایی مثل گوگل و OpenAI را در بازی خودشان شکست دهد؟ اگر دسترسی به مدلی با حافظه نامحدود داشتید، اولین چیزی که برای تحلیل به آن می‌سپردید چه بود؟ نظرات خود را با ما به اشتراک بگذارید و برای دنبال کردن آخرین تحولات این حوزه، با ما همراه باشید.

منبع:

https://www.technologyreview.com/2026/06/19/1139313/a-startup-claims-it-broke-through-a-bottleneck-thats-holding-back-llms/

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *