آخرین بروزرسانی در ۱۱ تیر ۱۴۰۵ توسط Dr.Arman
هوش مصنوعی ساخت متن امروزه به بخشی جداییناپذیر از زندگی دیجیتال ما تبدیل شده است. با این حال، بسیاری از کاربران متوجه تکرار در پاسخهای این ابزارها شدهاند.
تکرار و همگنی در مدلهای زبانی بزرگ
مدلهای زبانی بزرگ امروزی مانند چتجیپیتی و کلود در یک تله تکرار گرفتار شدهاند. این سیستمها علیرغم توانایی بالا، اغلب پاسخهای بسیار قابل پیشبینی ارائه میدهند. اگر از چندین مدل بخواهید عددی تصادفی انتخاب کنند، اکثر آنها عدد هفت را برمیگزینند. این پدیده نشاندهنده نبود خلاقیت واقعی در بسیاری از سناریوها است. کاربران معمولاً در طوفانهای فکری با پاسخهای مشابه و کلیشهای مواجه میشوند. این موضوع برای برنامهریزیهای دقیق یا کارهای خلاقانه یک چالش بزرگ محسوب میشود.
تحقیقات جدید نشان میدهد که این همگنی محصول روشهای آموزشی مشابه است. مدلهای زبانی بزرگ از دادههای اینترنتی مشابهی برای یادگیری استفاده میکنند. این دادهها باعث میشود مدلها به سمت پاسخهای با احتمال بالا متمایل شوند. پاسخهای با احتمال بالا معمولاً همان پاسخهای خستهکننده و همگانی هستند. در نتیجه، هوش مصنوعی تمایل دارد از مسیرهای امن و تکراری عبور کند. این مسئله باعث کاهش تنوع در خروجیهای نهایی ابزارهای هوش مصنوعی میشود. در جدول زیر، مقایسه پاسخ سه مدل مختلف به یک درخواست واحد را مشاهده میکنید:
| مدل هوش مصنوعی | پاسخ به انتخاب برند کفش | میزان تنوع |
|---|---|---|
| ChatGPT | نایک / آدیداس | پایین |
| Claude | نایک / نیوبالانس | متوسط |
| Flint (استارتاپ نوین) | برندهای محلی و خاص | بسیار بالا |
همانطور که مشاهده میکنید، اکثر مدلها به گزینههای مشهور و عامهپسند بسنده میکنند. این موضوع در پروژههای بازاریابی میتواند منجر به خروجیهای بسیار مشابه شود. شرکتها برای تمایز در بازار به رویکردهای متفاوتتری نیاز دارند.
ریشههای تعصب در هوش مصنوعی و خروجیهای کلیشهای
تعصب در هوش مصنوعی تنها به مسائل اخلاقی محدود نمیشود. این تعصب شامل تمایل به بازتولید اطلاعات میانگین و تکراری نیز هست. وقتی از هوش مصنوعی درباره نام یک گروه موسیقی سوال میشود، پاسخها تکراری است. کلماتی مانند نئون، شیشه و سکون به وفور در این نامها دیده میشوند. این پدیده باعث میشود خروجی مدلهای زبانی بزرگ از اصالت فاصله بگیرد. محققان این وضعیت را ذهنیت کندوی مصنوعی نامیدهاند. در این وضعیت، چندین مدل مختلف به یک پاسخ واحد و تکراری میرسند.
برای درک بهتر این موضوع، به نکات زیر توجه کنید:
- مدلها برای دقت بالا آموزش دیدهاند، نه لزوماً برای خلاقیت خالص.
- دادههای آموزشی تمایل دارند به سمت نظرات اکثریت در اینترنت متمایل شوند.
- الگوریتمهای تولید متن معمولاً کلمات با بیشترین احتمال آماری را انتخاب میکنند.
- تنوع پاسخها فدای قابلیت اطمینان و منطق درونی جملات میشود.
بسیاری از متخصصان معتقدند که تعصب در هوش مصنوعی خلاقیت را سرکوب میکند. استارتاپهای جدید در تلاش هستند تا این روند را به نفع نوآوری تغییر دهند. آنها میخواهند مدلهایی بسازند که از توهمات یا پاسخهای غیرمنتظره استقبال میکنند. این توهمات گاهی جرقهای برای ایدههای فوقالعاده در دنیای تبلیغات هستند. بدون شک، خلاقیت در هوش مصنوعی نیازمند عبور از الگوهای آماری صلب است.
آینده الگوریتمهای تولید متن و رویکرد استارتاپها
استارتاپ استرالیایی اسپرینگبوردز با معرفی مدل فلینت، راهکار جدیدی ارائه کرده است. این مدل بر پایه الگوریتمهای تولید متن توسعه یافته اما هدف متفاوتی دارد. فلینت به جای جستجوی پاسخهای میانگین، به دنبال گزینههای دور از انتظار میگردد. این مدل در مواجهه با سوالات باز، طیف گستردهتری از ایدهها را ارائه میدهد. برای مثال، در یک مطالعه موردی دانشگاهی، فلینت راهحلهای متفاوتی پیشنهاد داد. در حالی که سایر مدلها به کلیشههای آموزشی بسنده کردند، فلینت ساختارشکنی کرد. این رویکرد برای مدیران استراتژی و بازاریابان بسیار ارزشمند است.
برای بهبود خلاقیت در هوش مصنوعی، میتوان مراحل زیر را دنبال کرد:
- شناسایی نقاطی از متن که پتانسیل تنوع بالایی دارند.
- افزایش کنترلشده پارامترهای تصادفی در آن نقاط خاص.
- استفاده از مدلهای متنباز برای شخصیسازی رفتارهای تولید متن.
- ترکیب خروجی چندین مدل مختلف برای رسیدن به یک ایده نهایی.
مدل فلینت از نسخه متنباز Qwen 3 شرکت علیبابا استفاده کرده است. تیم سازنده متوجه شد که تنظیمات دمای کلی راهکار مناسبی نیست. افزایش کلی دما میتواند منجر به تولید جملات بیمعنی و نامفهوم شود. آنها به جای این کار، نقاط حساس برای خلاقیت را شناسایی کردند. الگوریتمهای تولید متن در این مدل تنها در لحظات کلیدی تصادفیتر عمل میکنند. این تخصصگرایی باعث میشود خروجی هم معنادار و هم نوآورانه باشد.
بسیاری از آژانسهای تبلیغاتی اکنون از این ابزارهای متنوع استفاده میکنند. آنها میدانند که برای شکستن مرزها نباید به ابزارهای میانگین تکیه کرد. البته، استفاده بیش از حد از هوش مصنوعی نیز خطرات خود را دارد. کپیبرداری مستقیم از هوش مصنوعی وظیفه یک متخصص خلاق نیست. انسان باید از این ابزارها تنها به عنوان یک شتابدهنده ذهنی استفاده کند. هدف نهایی، جلوگیری از تبدیل شدن جهان به مکانی خاکستری و خستهکننده است. خلاقیت در هوش مصنوعی ابزاری است تا ما را به تفکر عمیقتر وادارد.
در نهایت، تعادل میان دقت و نوآوری کلید موفقیت در آینده خواهد بود. مدلهای زبانی بزرگ باید به کاربر اجازه انتخاب بین پاسخهای امن و جسورانه را بدهند. این حق انتخاب است که مرز بین تکرار ماشینی و الهام خلاقانه را تعیین میکند. با رشد تکنولوژی، انتظار میرود که هوش مصنوعی ساخت متن هوشمندتر و متنوعتر شود. این مسیر به زودی به تحولی بزرگ در صنعت محتوا منجر خواهد شد.
منبع:
https://www.technologyreview.com/2026/07/01/1140003/llms-are-stuck-in-a-groupthink-rut-this-startup-is-trying-to-get-them-out/
مطالب مرتبط