آخرین بروزرسانی در ۲۳ بهمن ۱۴۰۴ توسط Dr.Arman
تصور کنید صورتحساب سرورهای هوش مصنوعی شما ناگهان ۹۰ درصد کاهش یابد؛ این یعنی چیزی که دیروز ۱۰۰ دلار هزینه داشت، امروز فقط با ۱۰ دلار انجام شود. این یک فرضیه نیست، بلکه واقعیتی است که در صدر اخبار داغ تکنولوژی قرار گرفته است. انویدیا با پلتفرم جدید خود یعنی «بلکول» (Blackwell)، نشان داده که هزینه اجرای هوش مصنوعی (Inference) در حال سقوط آزاد است. اما نکته هیجانانگیز اینجاست که سختافزار، تنها نیمی از این معادله پیچیده است.
چرا این موضوع همین حالا برای شما اهمیت دارد؟
اگر شما هم مثل من عاشق دنیای هوش مصنوعی باشید، میدانید که ما از مرحله «واو، ببین این مدل چه کارهایی میکند!» عبور کردهایم و به مرحله «چطور این را برای میلیونها کاربر اجرا کنیم؟» رسیدهایم. هزینه، بزرگترین مانع برای همگانی شدن هوش مصنوعی است. تا پیش از این، اجرای مدلهای بزرگ برای استارتاپها و حتی غولهای فناوری یک کابوس مالی بود. اما حالا، تحلیلهای جدید نشان میدهد که شرکتهای پیشرو توانستهاند هزینهها را بین ۴ تا ۱۰ برابر کاهش دهند. این یعنی هوش مصنوعی از یک ابزار لوکس در حال تبدیل شدن به یک زیرساخت ارزان و در دسترس برای همه است.
سختافزار قدرتمند، اما نه به تنهایی!
همه ما وقتی نام انویدیا را میشنویم، به یاد کارتهای گرافیک غولپیکر و تراشههای گرانقیمت میافتیم. بله، سختافزار Blackwell به خودی خود یک معجزه مهندسی است، اما جالب است بدانید که طبق گزارشهای رسمی، خودِ سختافزار به تنهایی تنها حدود ۲ برابر بهبود در هزینهها ایجاد کرده است. پس آن ۸ برابر باقیمانده از کجا میآید؟
راز این کاهش قیمت خیرهکننده در ترکیب سه عنصر کلیدی نهفته است: سختافزار Blackwell، پشتههای نرمافزاری بهینهشده و حرکت به سمت مدلهای «متنباز» (Open-source). این سه ضلع مثلثی را ساختهاند که اقتصاد هوش مصنوعی را برای همیشه تغییر میدهد. در واقع، شما برای ارزانتر کردن اجرای هوش مصنوعی، پارادوکس عجیبی را تجربه میکنید: باید روی زیرساختهای قویتر سرمایهگذاری کنید تا هزینه نهایی هر «توکن» (Token) کاهش یابد.
داستان Sully.ai: وقتی ۱۰ برابر صرفهجویی، جان انسانها را نجات میدهد
بیایید از دنیای تئوری خارج شویم و به یک مثال واقعی نگاه کنیم. شرکت Sully.ai که در حوزه سلامت فعالیت میکند، توانست با استفاده از پلتفرم Blackwell هزینههای استنتاج خود را ۹۰ درصد کاهش دهد. اما این فقط درباره پول نیست؛ آنها سرعت پاسخدهی سیستم را هم ۶۵ درصد بهبود بخشیدند. نتیجه؟ آنها توانستند ۳۰ میلیون دقیقه از وقت پزشکان را که صرف یادداشتبرداری و کدگذاری دستی میشد، به آنها برگردانند. این یعنی پزشکان وقت بیشتری برای بیماران دارند، آن هم با هزینهای به مراتب کمتر. آنها با کوچ کردن از مدلهای انحصاری گرانقیمت به مدلهای متنبازی که روی پلتفرم Blackwell اجرا میشوند، به این موفقیت دست یافتند.
گیمینگ و جادوی فرمتهای عددی جدید
اگر اهل بازی هستید، حتماً نام پلتفرم AI Dungeon را شنیدهاید. شرکت Latitude، سازنده این پلتفرم، توانست هزینههای خود را ۴ برابر کاهش دهد. داستان آنها بسیار آموزنده است. آنها ابتدا با مهاجرت از نسل قبلی انویدیا (Hopper) به Blackwell، هزینه را نصف کردند (کاهش ۲ برابری). اما آنها متوقف نشدند! با استفاده از فرمت جدید NVFP4 که مخصوص Blackwell است، هزینهها را باز هم نصف کردند و به کاهش ۴ برابری رسیدند.
شاید بپرسید NVFP4 دیگر چیست؟ به زبان ساده، این یک روش جدید برای نمایش اعداد در محاسبات هوش مصنوعی است که دقت را حفظ میکند اما به حافظه و پردازش بسیار کمتری نیاز دارد. مثل این است که یاد بگیرید چطور یک کتاب ۱۰۰۰ صفحهای را بدون حذف هیچ اطلاعات مهمی، در ۱۰۰ صفحه خلاصه کنید. این کار باعث میشود پردازندههای گرافیکی در هر ثانیه کارهای بسیار بیشتری انجام دهند.
چرا مدلهای متنباز ورق را برگرداندند؟
یکی از بزرگترین ترندهایی که در این تحلیل دیده میشود، رویگردانی شرکتها از APIهای بسته و گرانقیمت (مثل مدلهای انحصاری برخی شرکتهای بزرگ) و روی آوردن به مدلهای متنباز است. مدلهای متنباز امروزی به سطحی از هوشمندی رسیدهاند که با برترین مدلهای جهان رقابت میکنند. وقتی شما یک مدل متنباز را روی زیرساخت خودتان (یا ارائهدهندگان تخصصی مثل Fireworks AI یا Together AI) اجرا میکنید، دیگر مجبور نیستید نرخهای سرسامآور شرکتهای بزرگ را بپردازید. این تغییر رویکرد، یکی از موتورهای محرک اصلی در رسیدن به آن کاهش ۱۰ برابری است.
معماری MoE و اتوبانهای اطلاعاتی انویدیا
در دنیای مدرن هوش مصنوعی، مدلی به نام MoE یا «مخلوطی از متخصصان» (Mixture-of-Experts) بسیار محبوب شده است. در این مدلها، به جای اینکه کل مغز مصنوعی برای هر سوال فعال شود، فقط بخشهای متخصص بیدار میشوند. Blackwell با استفاده از تکنولوژی NVLink، مثل یک اتوبان فوقسریع عمل میکند که این «متخصصان» را به هم متصل میکند. دیون هریس، از مدیران ارشد انویدیا، میگوید: «عملکرد بالا است که هزینه را پایین میآورد.» در واقع، هرچه سرعت پردازش و ارتباط بین تراشهها بیشتر باشد، دلار کمتری از جیب شما خارج میشود.
نقشه راه برای شما: چطور هزینهها را کاهش دهیم؟
اگر شما در تیمی کار میکنید که با هوش مصنوعی سر و کار دارد، نباید بلافاصله به دنبال خرید گرانترین سختافزار باشید. اولین قدم، محاسبه این است که آیا حجم کاری شما اصلاً چنین تغییری را توجیه میکند یا خیر. شرکتهایی که به کاهش ۶ تا ۱۰ برابری رسیدهاند، همگی برنامههایی با حجم میلیونی داشتند که به تاخیر (Latency) بسیار حساس بودند.
پیشنهاد کارشناسان انویدیا این است: ابتدا روی مدلهای متنباز تست کنید. سپس به سراغ بهینهسازیهای نرمافزاری و فرمتهای جدید (مثل همان NVFP4) بروید. شاید بدون خرید حتی یک قطعه سختافزار جدید، بتوانید هزینههایتان را به نصف کاهش دهید. همیشه یادتان باشد که بنچمارکهای منتشر شده در شرایط ایدهآل هستند؛ شما باید بارِ کاری واقعی خودتان را روی پلتفرمهای مختلف تست کنید.
انتخاب ارائهدهنده؛ فقط قیمت ملاک نیست
در بازار امروز، گزینههای زیادی وجود دارد. از تراشههای MI300 شرکت AMD گرفته تا TPUهای گوگل و شتابدهندههای خاصی مثل Groq. اما اگر تصمیم گرفتید به سراغ Blackwell بروید، باید بدانید که همه ارائهدهندگان یکسان نیستند. برخی از «پشته نرمافزاری» کامل انویدیا استفاده میکنند که بیشترین بازدهی را دارد، در حالی که برخی دیگر از فریمورکهای جایگزین استفاده میکنند. قبل از مهاجرت، حتماً بررسی کنید که ارائهدهنده شما از چه نرمافزاری در پسزمینه استفاده میکند، چون این موضوع میتواند تفاوت بین کاهش ۴ برابری و ۱۰ برابری باشد.
آیندهای که همین حالا شروع شده است
کاهش هزینههای استنتاج، فقط یک عدد در ترازنامه مالی شرکتها نیست؛ این به معنای هوشمندتر شدن دنیای اطراف ماست. وقتی هزینه هوش مصنوعی ۱۰ برابر کمتر شود، یعنی دستیارهای صوتی سریعتر (مثل تجربه شرکت Decagon که تاخیر را زیر ۴۰۰ میلیثانیه نگه داشت)، بازیهای ویدیویی زنده و پویا، و خدمات پزشکی ارزانتر در دسترس همه قرار میگیرد.
ما در میانه یک انقلاب اقتصادی در دنیای تکنولوژی هستیم. سختافزار Blackwell یک ابزار قدرتمند است، اما جادوی واقعی زمانی اتفاق میافتد که شما به عنوان یک متخصص یا علاقهمند، بدانید چطور از ترکیب نرمافزار، مدلهای متنباز و این سختافزار برای خلق ارزش استفاده کنید. آیا شما آمادهاید تا هزینههای هوش مصنوعی خود را به حداقل برسانید و وارد عصر جدیدی از نوآوری شوید؟
منبع:
https://venturebeat.com/infrastructure/ai-inference-costs-dropped-up-to-10x-on-nvidias-blackwell-but-hardware-is
مطالب مرتبط