آخرین بروزرسانی در ۴ شهریور ۱۴۰۵ توسط Dr.Arman
شرکت پرپلکسی با همکاری انویدیا از پلتفرم جدیدی به نام Portable Computer رونمایی کرد. این ابزار گامی بزرگ در توسعه عاملهای هوش مصنوعی به شمار میرود.
این فناوری به کاربران اجازه میدهد هوش مصنوعی را روی سختافزار شخصی اجرا کنند. هدف اصلی این پروژه حذف هزینههای سنگین توکن در پردازشهای ابری است. همچنین این سیستم امنیت اطلاعات حساس را به طور کامل تضمین میکند. در حال حاضر بسیاری از شرکتها نگران نشت دادههای خود هستند. پردازش محلی این نگرانی را برای همیشه برطرف خواهد کرد.
مزایای پردازش محلی هوش مصنوعی برای کسبوکارها
استفاده از پردازش محلی هوش مصنوعی مزایای اقتصادی بسیار زیادی دارد. در سیستمهای ابری هر پرسش هزینه مشخصی دارد. اما در این سیستم جدید هزینه نهایی تقریباً صفر است. کاربر تنها یک بار برای خرید سختافزار هزینه میکند. پس از آن تمام پردازشها به صورت رایگان انجام میشوند. این موضوع برای شرکتهایی با حجم کاری بالا حیاتی است.
علاوه بر هزینه سرعت پاسخگویی نیز افزایش مییابد. دادهها دیگر نیازی به ارسال به سرورهای دوردست ندارند. همه چیز در حافظه گرافیکی سیستم شما اتفاق میافتد. این ویژگی باعث میشود تعامل با هوش مصنوعی بسیار روانتر شود. برای کارهای تکراری و طولانی این یک انقلاب بزرگ است. شرکتها میتوانند عاملهای خود را به صورت شبانهروزی فعال نگه دارند.
- کاهش قطعی هزینههای عملیاتی در بلندمدت.
- افزایش سرعت اجرای دستورات پیچیده و چندمرحلهای.
- استقلال کامل از زیرساختهای ابری شخص ثالث.
- امکان شخصیسازی مدلها بر اساس نیازهای داخلی.
نقش سختافزارهای انویدیا در قدرتبخشی به Portable Computer
اجرای چنین سیستم قدرتمندی نیازمند زیرساختهای سختافزاری قوی است. سختافزارهای انویدیا در این پروژه نقش محوری ایفا میکنند. این پلتفرم در ابتدا برای ابررایانههای رومیزی DGX Spark بهینهسازی شده است. همچنین کارتهای گرافیک سری RTX 3090 و مدلهای جدیدتر از آن پشتیبانی میکنند. حداقل حافظه گرافیکی مورد نیاز ۲۴ گیگابایت اعلام شده است.
انویدیا معتقد است هوش مصنوعی محلی از یک سرگرمی فراتر رفته است. اکنون این فناوری به یک ابزار کاربردی برای متخصصان تبدیل شده است. مدلهای متنباز جدید قدرت بسیار بالایی در تحلیل دادهها دارند. این مدلها به خوبی روی پردازندههای گرافیکی انویدیا اجرا میشوند. هماهنگی بین نرمافزار و سختافزار در این پروژه بینظیر است.
| نام سختافزار | حداقل حافظه گرافیکی | وضعیت پشتیبانی |
|---|---|---|
| Nvidia DGX Spark | ۶۴ گیگابایت+ | پشتیبانی کامل در زمان عرضه |
| Nvidia RTX 3090/4090 | ۲۴ گیگابایت | پشتیبانی کامل |
| سیستمهای لینوکسی | وابسته به GPU | در دسترس |
| سیستمعامل ویندوز | ۲۴ گیگابایت | عرضه در ماه سپتامبر |
تضمین امنیت دادهها در هوش مصنوعی با معماری لوکال
بسیاری از سازمانهای مالی و درمانی محدودیتهای شدیدی دارند. آنها نمیتوانند اطلاعات مشتریان را در ابر آپلود کنند. امنیت دادهها در هوش مصنوعی اولویت اول محصول جدید پرپلکسی است. در Portable Computer تمامی فایلها روی دستگاه کاربر باقی میمانند. هیچ مرحلهای از کار بدون اجازه کاربر به ابر فرستاده نمیشود. این یک محیط کاملاً ایزوله و امن ایجاد میکند.
حتی در صورت نیاز به مدلهای قویتر امنیت حفظ میشود. سیستم ابتدا دادههای حساس را از متن حذف میکند. سپس نسخه پاکسازی شده را برای مشاوره به ابر میفرستد. این رویکرد ترکیبی یا هیبریدی بسیار هوشمندانه طراحی شده است. شرکتها میتوانند با خیال راحت اسناد محرمانه خود را تحلیل کنند. هوش مصنوعی محلی راهکاری برای عبور از موانع قانونی است.
- ایجاد یک محیط ایزوله یا Sandbox برای اجرای کدها.
- استفاده از فیلترهای خودکار برای شناسایی اطلاعات شخصی.
- کنترل کامل کاربر بر روی ترافیک خروجی شبکه.
- ذخیرهسازی محلی تاریخچه گفتگوها و نتایج تحلیل.
عملکرد فنی و بنچمارکهای Portable Computer
پرپلکسی ادعا میکند که عملکرد این سیستم از رقبا بهتر است. در تستهای داخلی این پلتفرم به دقت ۸۲.۶ درصد رسیده است. مدلهای رقیب در شرایط مشابه دقت کمتری داشتند. یکی از دلایل این برتری طراحی اختصاصی سیستم است. پرپلکسی مدل و ساختار اجرایی را با هم هماهنگ کرده است. این کار باعث کاهش مصرف منابع سیستم میشود.
مدل Qwen 3.8 با ۲۷ میلیارد پارامتر در این سیستم میدرخشد. این مدل میتواند کارهای پیچیده تحقیقاتی را به خوبی انجام دهد. همچنین مدل اختصاصی PPLX 27B نتایج فوقالعادهای ثبت کرده است. این مدلها به طور خاص برای کارهای اداری آموزش دیدهاند. سرعت اجرای دستورات در این حالت بسیار چشمگیر است. کاربران حرفهای تفاوت را در اولین تجربه احساس خواهند کرد.
در پایان باید گفت که آینده متعلق به هوش مصنوعی محلی است. همکاری پرپلکسی و انویدیا تنها شروع یک مسیر طولانی است. با پیشرفت تراشهها قدرت این سیستمها نیز بیشتر خواهد شد. دیگر نیازی به پرداخت مبالغ هنگفت به غولهای ابری نیست. شما میتوانید هوش مصنوعی خود را در کیفتان حمل کنید. این محصول تعریف جدیدی از آزادی دیجیتال ارائه میدهد. متخصصان حوزه تکنولوژی باید از همین امروز آماده این تحول باشند.
منبع:
https://venturebeat.com/infrastructure/perplexity-partners-with-nvidia-to-launch-portable-computer-a-fully-local-ai-agent-with-zero-token-costs
مطالب مرتبط