آخرین بروزرسانی در ۶ تیر ۱۴۰۵ توسط Dr.Arman
چارچوب MRAgent به عنوان یک راهکار انقلابی برای مدیریت حافظه در عاملهای هوش مصنوعی معرفی شده است. این فناوری با استفاده از بازسازی فعال اطلاعات، محدودیتهای مدلهای زبانی سنتی را به طور کامل برطرف میکند.
چالشهای سیستمهای بازیابی سنتی در استدلالهای طولانی
استدلال در بازههای زمانی طولانی یکی از نقاط ضعف اصلی در سیستمهای فعلی است. در این شرایط، پنجره بافت مدلها به سرعت پر میشود. لولههای بازیابی اطلاعات نیز معمولاً به جای سیگنالهای مفید، نویز تولید میکنند. برای حل این مشکل، محققان دانشگاه ملی سنگاپور چارچوب MRAgent را توسعه دادند. این سیستم رویکرد سنتی «بازیابی و سپس استدلال» را به طور کامل رها کرده است. مدلهای فعلی در بازیابی غیرفعال با سه گلوگاه اصلی مواجه هستند. اول اینکه آنها نمیتوانند استراتژی بازیابی خود را حین استدلال اصلاح کنند. دوم، امتیازهای شباهت ثابت باعث ورود اطلاعات نامرتبط به حافظه میشود. سوم، تکیه بر ساختارهای پیشفرض باعث کاهش انعطافپذیری سیستم در تعاملات پیچیده میشود. توسعهدهندگان باید به سمت فرآیند بازسازی فعال و انجمنی حرکت کنند. این مفهوم از علوم اعصاب شناختی الهام گرفته شده است. در این پارادایم، یادآوری حافظه به صورت متوالی انجام میشود. این فرآیند بسیار دقیقتر از خواندن ساده یک پایگاه داده ایستا است.
بازیابی فعال حافظه؛ رویکردی جدید در معماری هوش مصنوعی
سیستم با محرکهای کوچک و خاص از دستور کاربر شروع به کار میکند. این نشانهها شامل نام افراد یا مکانهای خاص هستند. این سرنخهای اولیه به مفاهیم یا دستهبندیهای متصل اشاره میکنند. عامل هوشمند با دنبال کردن این سنگبناهای متادیتا، شواهد را جمعآوری میکند. بازیابی فعال حافظه به سیستم اجازه میدهد تا داستان کامل را تکه به تکه بسازد. در این روش، حافظه دیگر یک پایگاه داده ایستا نیست. بلکه به عنوان یک محیط تعاملی برای عامل عمل میکند. مدل از تواناییهای استدلالی خود برای کاوش در مسیرهای مختلف استفاده میکند. این مسیرها در یک گراف حافظه ساختاریافته سازماندهی شدهاند. در هر مرحله، شواهد میانی توسط مدل ارزیابی میشوند. سپس سیستم از این اطلاعات برای بهینهسازی جستجوی خود استفاده میکند. این فرآیند باعث میشود تا اطلاعات عمیق بدون پر شدن پنجره بافت استخراج شوند. شاخههای نامرتبط در همان مراحل اولیه توسط مدل هرس میشوند. این رویکرد هوشمندانه باعث افزایش دقت در پاسخدهی میشود. کاربر میتواند سوالات بسیار پیچیدهای را از سیستم بپرسد. پاسخها با استناد به دقیقترین بخشهای حافظه تولید میشوند. این موضوع اعتماد کاربران به سیستمهای هوشمند را دوچندان میکند.
ساختار سه لایهای نشانه، برچسب و محتوا
برای کارایی بالاتر، این چارچوب از مکانیسم Cue-Tag-Content استفاده میکند. این ساختار یک گراف انجمنی چندلایه با سه نوع گره است. نشانهها (Cues) کلمات کلیدی بسیار دقیق از تعاملات کاربر هستند. محتوا (Content) واحدهای واقعی حافظه ذخیره شده را شامل میشود. این بخش به حافظه رویدادی و حافظه معنایی تقسیم میشود. برچسبها (Tags) پلهای معنایی هستند که روابط بین نشانهها و محتوا را خلاصه میکنند. این ساختار یک فرآیند بازیابی دو مرحلهای بسیار کارآمد را فراهم میکند. عامل ابتدا از نشانهها به سمت برچسبهای کاندید حرکت میکند. از آنجایی که برچسبها روابط دادهها را فاش میکنند، ارزیابی آنها آسان است. مدل مسیرهای امیدوارکننده را شناسایی و بقیه را نادیده میگیرد. این کار قبل از صرف هزینه برای دسترسی به محتوای سنگین انجام میشود. این سلسله مراتب باعث میشود تا جستجوها هدفمندتر شوند. همچنین از بارگذاری دادههای تکراری در حافظه جلوگیری میشود.
بهینهسازی توکن در هوش مصنوعی و نتایج بنچمارک
برای توسعهدهندگان تجاری، هزینه محاسباتی حیاتیترین معیار موفقیت است. در تستهای بنچمارک LongMemEval، این چارچوب نتایج خیرهکنندهای ثبت کرد. بهینهسازی توکن در هوش مصنوعی توسط MRAgent باعث کاهش مصرف به ۱۱۸ هزار واحد شد. برای مقایسه، چارچوب LangMem بیش از ۳.۲۶ میلیون توکن مصرف کرده است. همچنین زمان اجرای سیستم از ۱۱۲۲ ثانیه به ۵۸۶ ثانیه کاهش یافت. این یعنی سرعت سیستم تقریباً دو برابر شده است. عملکرد این مدل در تمامی انواع سوالات از رقبا بهتر بود. رفتار بر اساس تقاضا یکی از دلایل اصلی این کارایی است. سیستم میداند چه زمانی باید جستجو را متوقف کند. این کار از کاوش دادههای تکراری و بیهوده جلوگیری میکند. صرفهجویی در فضای بافت باعث میشود مدلهای کوچکتر هم عملکرد خوبی داشته باشند. این موضوع هزینههای نهایی پروژههای هوش مصنوعی را به شدت کاهش میدهد.
| نام چارچوب | مصرف توکن (هر کوئری) | زمان اجرا (ثانیه) | دقت استدلال |
|---|---|---|---|
| MRAgent | 118,000 | 586 | بسیار بالا |
| A-Mem | 632,000 | 1,122 | متوسط |
| LangMem | 3,260,000 | نامشخص | پایین |
نقش مدلهای زبانی بزرگ در بازسازی حافظه
در این معماری، مدلهای زبانی بزرگ به عنوان موتور محرک استدلال عمل میکنند. محققان از مدلهایی مانند Gemini 2.5 Flash و Claude Sonnet 4.5 استفاده کردند. این مدلها وظیفه دارند تا در هر مرحله، ربط برچسبها را بررسی کنند. آنها باید تصمیم بگیرند که کدام مسیر حافظه ارزش دنبال کردن دارد. قدرت استدلال مدل در اینجا به جای تولید متن، صرف مدیریت دانش میشود. این تغییر کاربری باعث میشود تا مدل از خطاهای توهم حافظه دور بماند. مدلهای زبانی بزرگ در این چارچوب به صورت فعال در فرآیند تقطیر دادهها شرکت میکنند. آنها تاریخچه تعاملات خام را پردازش کرده و گراف حافظه را میسازند. این همکاری بین مدل و گراف، یک سیستم پویا ایجاد میکند. سیستمی که با هر تعامل جدید، باهوشتر و بهینهتر میشود. توانایی هرس شاخههای نامرتبط، هنر اصلی این مدلها در MRAgent است. این کار باعث میشود تا حافظه همیشه تمیز و کاربردی باقی بماند.
نکات کلیدی در پیادهسازی فنی
- استفاده از پایگاه دادههای گرافی برای ذخیره نشانهها و برچسبها ضروری است.
- ایجاد یک خط لوله استریمینگ برای پردازش تعاملات کاربر در پسزمینه پیشنهاد میشود.
- توسعهدهندگان باید قالبهای دستور (Prompt) دقیقی برای استخراج متادیتا طراحی کنند.
- نظارت بر نرخ هرس مسیرهای حافظه برای تنظیم دقت سیستم اهمیت زیادی دارد.
- بهتر است از مدلهای سریع و ارزان برای مراحل اولیه ارزیابی برچسبها استفاده شود.
راهنمای عملی برای توسعهدهندگان سازمانی
اگرچه MRAgent بسیار موثر است، اما ساختار Cue-Tag-Content نیاز به آمادهسازی دارد. توسعهدهندگان باید پایگاه داده حافظه زیرین را به درستی معماری کنند. این کار باید به گونهای باشد که مدل بتواند به راحتی در آن پیمایش کند. خوشبختانه نیازی به برچسبگذاری دستی دادهها توسط انسان وجود ندارد. نویسندگان این چارچوب، یک خط لوله تقطیر خودکار طراحی کردهاند. این خط لوله از هوش مصنوعی برای پردازش تاریخچه تعاملات خام استفاده میکند. کار توسعهدهنده تنها اجرای این خط لوله و ارکستراسیون آن است. شما باید یک تسک پسزمینه تنظیم کنید که تعاملات را از قالبهای دستور عبور دهد. این فرآیند متادیتاها را قبل از ذخیرهسازی در پایگاه داده گرافی استخراج میکند. سازندگان تاکید دارند که این مرحله ساختوساز بسیار سبک طراحی شده است. کد این پروژه به صورت متنباز در گیتهاب در دسترس همگان قرار دارد. سازمانها میتوانند با شخصیسازی این کد، حافظه اختصاصی خود را بسازند. این حافظه با گذشت زمان غنیتر شده و هزینههای عملیاتی را کاهش میدهد. در نهایت، MRAgent راه را برای نسل جدیدی از دستیاران هوشمند هموار میکند. دستیارانی که نه تنها به یاد میآورند، بلکه مانند انسان فکر و جستجو میکنند.
منبع:
https://venturebeat.com/orchestration/new-agentic-memory-framework-uses-118k-tokens-per-query-langmem-burns-through-3-26m
مطالب مرتبط