llm یا مدل زبانی بزرگ هوش مصنوعی، از پیش‌آموزش تا استنتاج و چالش‌های آن

آخرین بروزرسانی در ۳ اسفند ۱۴۰۳ توسط Dr.Arman

امروزه llmها یا مدل‌های زبانی بزرگ هوش مصنوعی، به یکی از مهم‌ترین دستاوردهای فناوری در حوزه پردازش زبان طبیعی تبدیل شده‌اند. این مدل‌ها که بر پایه شبکه‌های عصبی عمیق کار می‌کنند، می‌توانند متن‌های طولانی را درک کرده، پاسخ دهند و حتی محتوای جدید تولید کنند. در این مقاله، فرآیند ساخت و آموزش این مدل‌ها را از مرحله پیش‌آموزش تا پس‌آموزش بررسی خواهیم کرد و به چالش‌هایی مانند استنتاج و تولید اطلاعات نادرست (توهمات) می‌پردازیم.

مراحل آموزش llm یا مدل زبانی بزرگ هوش مصنوعی

مدل‌های زبانی بزرگ به‌طور کلی دو مرحله اصلی آموزش را طی می‌کنند:

۱. پیش‌آموزش (Pre-training)

این مرحله شامل سه فرآیند کلیدی است:

جمع‌آوری و پیش‌پردازش داده‌ها

مدل‌های زبانی بزرگ با استفاده از مجموعه داده‌های عظیمی که از منابع مختلف مانند وب، کتاب‌ها، مقالات علمی و گفتگوهای انسانی جمع‌آوری می‌شوند، آموزش داده می‌شوند. یکی از مهم‌ترین پایگاه‌های داده مورد استفاده، Common Crawl است که شامل بیش از ۲۵۰ میلیارد صفحه وب است. با این حال، این داده‌ها خام بوده و حاوی اطلاعات غیرضروری مانند اسپم و محتوای تکراری هستند، بنابراین مرحله پیش‌پردازش برای پاک‌سازی و بهبود کیفیت داده‌ها ضروری است.

توکنیزاسیون (Tokenization)

برای اینکه مدل بتواند متن را پردازش کند، ابتدا باید آن را به شکل عددی تبدیل کرد. در این فرآیند، کلمات، زیرکلمات یا کاراکترها به اعداد تبدیل می‌شوند. این اعداد در واقع ورودی‌های مدل هستند که برای پیش‌بینی کلمه بعدی استفاده می‌شوند. به عنوان مثال، مدل GPT-4 دارای 100,277 توکن ممکن است.

آموزش شبکه عصبی

پس از تبدیل داده‌ها به توکن، شبکه عصبی مدل به یادگیری الگوهای زبانی می‌پردازد. این شبکه شامل دو بخش اصلی است:

• پارامترها (Weights): مقادیر عددی که طی فرآیند آموزش تنظیم می‌شوند.
• معماری (Architecture): ساختاری که نحوه پردازش توکن‌ها را مشخص می‌کند.

مدل در ابتدا پیش‌بینی‌های تصادفی انجام می‌دهد، اما با تکرار و تنظیم پارامترها از طریق روش پس‌انتشار (Backpropagation)، دقت آن افزایش می‌یابد. در نهایت، خروجی این مرحله مدل پایه (Base Model) است که می‌تواند متن تولید کند اما هنوز برای کاربردهای واقعی بهینه نشده است.

۲. پس‌آموزش (Post-training)

در این مرحله، مدل برای کاربردهای خاص و تعاملات انسانی بهینه‌سازی می‌شود. این فرآیند شامل موارد زیر است:

تنظیم برای پیروی از دستورات (Instruction Fine-tuning)

این روش به مدل کمک می‌کند که بتواند به دستورات انسانی پاسخ دقیق‌تری بدهد. شرکت‌هایی مانند OpenAI برای این کار از مجموعه‌های داده‌ای که توسط انسان‌ها حاشیه‌نویسی شده‌اند، استفاده می‌کنند.

تنظیم برای حوزه‌های خاص (Domain-specific Fine-tuning)

در این روش، مدل برای زمینه‌های خاص مانند پزشکی، حقوق یا برنامه‌نویسی آموزش داده می‌شود تا درک بهتری از واژگان تخصصی آن حوزه داشته باشد.

استنتاج (Inference) و تولید پاسخ‌های جدید

در مرحله استنتاج، مدل بر اساس داده‌های آموزشی خود به تولید متن جدید می‌پردازد. این کار به صورت احتمالاتی انجام می‌شود، به این معنا که مدل به جای انتخاب همیشه محتمل‌ترین کلمه، از توزیع احتمالاتی استفاده می‌کند که باعث متنوع شدن پاسخ‌ها می‌شود.

توهمات (Hallucinations): مشکل تولید اطلاعات نادرست

یکی از چالش‌های مهم در llm یا مدل زبانی بزرگ هوش مصنوعی، تولید اطلاعات نادرست یا ساختگی است. این مشکل زمانی رخ می‌دهد که مدل با سوالی مواجه شود که اطلاعات کافی درباره آن ندارد، اما همچنان پاسخی با اطمینان بالا تولید کند.

چگونه می‌توان توهمات را کاهش داد؟

۱. یادگیری عدم قطعیت

یکی از روش‌های مؤثر این است که مدل به جای تولید اطلاعات نادرست، پاسخی مانند “من نمی‌دانم” بدهد. این تکنیک با استفاده از خودبازبینی (Self-interrogation) اجرا می‌شود.

۲. استفاده از جستجوی وب

مدل‌هایی که به اینترنت دسترسی دارند می‌توانند برای به‌روزرسانی اطلاعات خود از جستجوی وب استفاده کنند. این کار به مدل امکان می‌دهد پاسخ‌های دقیق‌تری بر اساس داده‌های جدید ارائه دهد.

حافظه داخلی در مقابل حافظه کاری

• حافظه داخلی: اطلاعاتی که مدل در طول پیش‌آموزش یاد گرفته است.
• حافظه کاری: اطلاعاتی که در لحظه استنتاج و بر اساس ورودی کاربر پردازش می‌شوند.

افزودن اطلاعات مرتبط در حافظه کاری می‌تواند دقت پاسخ‌های مدل را به‌طور قابل توجهی افزایش دهد.

جمع‌بندی

llm یا مدل زبانی بزرگ هوش مصنوعی یکی از پیشرفته‌ترین فناوری‌های یادگیری ماشین است که از مراحل پیش‌آموزش و پس‌آموزش برای یادگیری زبان استفاده می‌کند. این مدل‌ها قادرند متن‌های جدیدی تولید کنند، اما همچنان با چالش‌هایی مانند توهمات و استنتاج روبه‌رو هستند. با بهبود روش‌های یادگیری و دسترسی به اطلاعات به‌روز، می‌توان دقت و قابلیت اطمینان این مدل‌ها را افزایش داد و کاربردهای آن‌ها را گسترش داد.