آخرین بروزرسانی در ۲۸ مرداد ۱۴۰۵ توسط Dr.Arman
در دنیای امروز، اخبار مرتبط با تکنولوژی همواره بر پیشرفتهای شگرف تأکید دارند. با این حال، درک دقیق نحوه استفاده از هوش مصنوعی توسط کاربران همچنان پیچیده است.
شرکتهای بزرگی مانند انتروپیک و اوپنایآی گزارشهای منظمی منتشر میکنند. این گزارشها نشان میدهند که مردم چگونه از کلود و چتجیپیتی استفاده میکنند. اما محققان مستقل معتقدند این دادهها فیلتر شده هستند. آنها میگویند شرکتها فقط بخشهای دلخواه خود را نمایش میدهند. آنکا روئل، دانشجوی دکتری در آزمایشگاه استنفورد، بر این موضوع تأکید دارد. او معتقد است هیچ منبع مستقلی برای تأیید این ادعاها وجود ندارد.
گزارشهای شرکتهای فناوری و چالش شفافیت دادهها
شرکتهای پیشرو معمولاً بر جنبههای مثبت و کاری ابزارهای خود تمرکز میکنند. برای مثال، شاخص اقتصادی انتروپیک یکی از منابع معتبر در این حوزه است. اما این شاخص تنها بر کاربردهای مرتبط با بهرهوری و کار تمرکز دارد. مکالمات غیرمرتبط با این موضوعات معمولاً از تحلیلهای رسمی حذف میشوند. این رویکرد باعث ایجاد نقاط کور بزرگی در درک نحوه استفاده از هوش مصنوعی میشود. سیاستگذاران بر اساس این دادههای محدود، تصمیمات بسیار مهمی اتخاذ میکنند.
پروژه جدیدی به نام «رصدخانه هوش مصنوعی» برای حل این مشکل ایجاد شده است. این پلتفرم عمومی، مکالمات واقعی کاربران را با مدلهای مختلف تحلیل میکند. این دادهها با رضایت کامل کاربران از هفت مجموعه داده موجود جمعآوری شدهاند. هدف این پروژه، ارائه منابع مستقل برای محققان و سیاستگذاران است. این کار به ارزیابی دقیقتر مزایا و خطرات هوش مصنوعی مولد کمک میکند. نتایج اولیه نشان میدهد که رفتار کاربران بسیار فراتر از گزارشهای رسمی است.
تحقیقات رصدخانه نشان داد که استفاده از هوش مصنوعی در مدلهای مختلف متفاوت است. همچنین، این رفتارها در طول زمان تغییرات معناداری داشتهاند. گزارشهای شرکتهای بزرگ بیشتر بر جنبههای حرفهای تأکید دارند. اما دادههای مستقل، رفتارهای حساستری را در تعاملات روزمره نشان میدهند. این تفاوت در رویکرد، لزوم بازنگری در نحوه استفاده از هوش مصنوعی را برجسته میکند.
بررسی چالشهای هوش مصنوعی در تحلیلهای مستقل
یکی از اصلیترین چالشهای هوش مصنوعی، تضاد میان دادههای شرکتی و واقعیت است. وقتی محققان روشهای انتروپیک را بر مجموعه داده خود اعمال کردند، نتایج عجیبی گرفتند. آنها متوجه شدند که ۴۸ درصد از مکالمات کاربران حذف شده است. این گفتگوهای حذف شده معمولاً شامل موضوعات حساس و شخصی بودهاند. مسائلی مانند سلامت، روابط انسانی و حتی محتوای بزرگسال در این دسته قرار داشتند.
در گزارشهای رسمی، سهم موضوعات سلامت و روابط حدود ۳۱ درصد اعلام شده بود. اما در تحلیلهای مستقل، این آمار به بیش از ۴۴ درصد رسید. همچنین موضوعاتی مانند آزار و اذیت در دادههای مستقل بسیار بیشتر دیده شد. این آمار نشان میدهد که کاربران در فضای خصوصی متفاوت عمل میکنند. شرکت اوپنایآی نیز در گزارش ۲۰۲۵ خود به نکته مشابهی اشاره کرد. طبق این گزارش، تنها ۳۰ درصد از کاربردها مربوط به حوزههای کاری بوده است.
تحلیلهای مستقل به محققان کمک میکند تا دیدی کلیتر به موضوع داشته باشند. دیوید ویدار، استاد دانشگاه تگزاس، بر اهمیت این نگاه جامع تأکید دارد. او معتقد است گزارشهای جداگانه شرکتها، تصویر کاملی از تعاملات انسانی ارائه نمیدهند. رصدخانه هوش مصنوعی مکالمات بین سالهای ۲۰۲۳ تا ۲۰۲۵ را بررسی کرده است. این بررسیها تفاوتهای فاحشی را در پاسخدهی پلتفرمهای مختلف نشان میدهد.
| مدل هوش مصنوعی | کاربرد اصلی کاربران | ویژگی خاص |
|---|---|---|
| چتجیپیتی | کمک در تکالیف درسی | گفتگوهای طولانی در نسخه 4o |
| کلود (انتروپیک) | برنامهنویسی و کدنویسی | تمرکز بر بهرهوری کاری |
| جمینای (گوگل) | تعاملات اجتماعی و نقشآفرینی | بازیابی اطلاعات عمومی |
| گروک (xAI) | اخبار و سیاست | تمرکز بر دادههای لحظهای |
چرا درک دقیق نحوه استفاده از هوش مصنوعی اهمیت دارد؟
تحلیل دادههای مجموعه «WildChat» نشاندهنده تغییرات جالبی در رفتار کاربران است. مکالمات به مرور زمان طولانیتر و پیچیدهتر شدهاند. تعداد کلمات در هر پرسش و پاسخ افزایش یافته است. این موضوع نشاندهنده تعامل عمیقتر کاربران با این سیستمها است. همچنین میزان «صحبتهای کوتاه» یا گپزدن با هوش مصنوعی بیشتر شده است. این پدیده نشاندهنده افزایش نقش همراهی و رفاقت در هوش مصنوعی است.
از سوی دیگر، خودافشایی دستیارهای هوش مصنوعی کاهش یافته است. یعنی مدلها کمتر به هویت رباتیک خود اشاره میکنند. در عین حال، محتوای مضر یا حساس با گذشت زمان کمتر شده است. این موضوع نشاندهنده بهبود لایههای امنیتی در پلتفرمهای مختلف است. با این حال، چالشهای هوش مصنوعی در حوزه اطلاعات نادرست همچنان باقی است. برای مثال، مدل گروک با وجود محبوبیت در اخبار، کانون انتشار اطلاعات غلط بوده است.
تفاوت میان نسخههای مختلف یک مدل نیز بسیار حائز اهمیت است. کاربران با نسخه قدیمی GPT-3.5 مکالمات کوتاهتری داشتند. اما در نسخه GPT-4o، گفتگوها تکرارپذیر و بسیار طولانیتر شدند. برخی محققان این موضوع را به نوعی اعتیاد عاطفی نسبت میدهند. گزارشهای شرکتی معمولاً به این جزئیات و تفاوتهای رفتاری اشاره نمیکنند. شاین لانگپر از آزمایشگاه مدیای امآیتی بر این باور است. او میگوید هیچ گزارش شرکتی به تنهایی تمام واقعیت را بازگو نمیکند.
- عدم دسترسی محققان مستقل به دادههای کامل شرکتها.
- تمرکز گزارشهای رسمی بر جنبههای تبلیغاتی و مثبت.
- تفاوت فاحش در کاربردهای واقعی کاربران و فرضیات اولیه.
- نیاز به حفاظت از حریم خصوصی در عین اشتراکگذاری دادهها.
رصدخانه هوش مصنوعی با همکاری چندین نهاد معتبر علمی شکل گرفته است. آنها بیش از ۸۵ هزار نوبت مکالمه را از ۲۴ هزار گفتگو استخراج کردند. این دادهها شامل تعامل ۵ هزار کاربر با ۵۲ مدل مختلف است. با این حال، این حجم از داده در برابر دادههای غولهای فناوری ناچیز است. شرکتهایی مانند اوپنایآی به میلیونها مکالمه دسترسی دارند. آنها تمایلی به اشتراکگذاری دادههای متنی برای تحلیلهای مستقل ندارند.
انتروپیک معتقد است گزارشهایش بر اساس علایق تیمهای تحقیقاتی خودش تنظیم میشود. آنها ادعا میکنند که از تحقیقات مستقل خارجی نیز حمایت میکنند. اما محققان میگویند بدون دسترسی به دادههای خام، قضاوت دشوار است. ما نمیدانیم که سیستمهای هوش مصنوعی بیشتر برای کارهای خوب استفاده میشوند یا بد. این اطلاعات در حال حاضر کاملاً اختصاصی و محرمانه باقی ماندهاند.
تیم رصدخانه امیدوار است که مجموعههای داده خود را در آینده گسترش دهد. روئل پیشنهاد میدهد که شرکتها دادههای خود را با حفظ حریم خصوصی به اشتراک بگذارند. در غیر این صورت، تصمیمگیرندگان همچنان در فضایی مبهم عمل خواهند کرد. اتکا به روایتهای شرکتی میتواند منجر به تصمیمات نادرست در سطح کلان شود. شناخت واقعی نحوه استفاده از هوش مصنوعی، کلید توسعه ایمن این فناوری است.
در نهایت، شفافیت در این حوزه به نفع تمام جامعه خواهد بود. کاربران باید بدانند که ابزارهای هوش مصنوعی چگونه زندگی آنها را تحت تأثیر قرار میدهند. محققان نیز به دادههای واقعی برای پیشبینی رفتارهای آینده نیاز دارند. شکاف اطلاعاتی موجود تنها با همکاری میان صنعت و دانشگاه پر خواهد شد. اخبار تکنولوژی باید فراتر از تبلیغات، به عمق رفتارهای انسانی بپردازند.
منبع:
https://www.technologyreview.com/2026/08/18/1142226/how-people-use-ai/
مطالب مرتبط