آخرین بروزرسانی در ۳ مرداد ۱۴۰۵ توسط Dr.Arman
دنیای مدرن امروز به شدت با فناوری گره خورده است. هوش مصنوعی اکنون دروازهبان بسیاری از فرصتهای شغلی محسوب میشود. یکی از جدیدترین اخبار در این حوزه، نگرانیهای جدی پیرامون سوگیریهای نژادی است.
خطرات اتوماسیون با هوش مصنوعی در فرآیندهای گزینش
استفاده از عاملهای هوش مصنوعی در بررسی رزومهها به سرعت در حال افزایش است. اما آیا این ماشینها واقعاً عادلانه قضاوت میکنند؟ پژوهشهای جدید نشان میدهد که پاسخ احتمالاً منفی است. محققان دانشگاه پرینستون و شیکاگو مطالعات گستردهای در این زمینه انجام دادند. آنها دریافتند که مدلهای زبانی بزرگ، سوگیریهای انسانی را به ارث میبرند. این مدلها حتی میتوانند کلیشههای خاص خود را تولید کنند. این کلیشهها بر اساس تجربههای محدود مدل شکل میگیرند. در واقع، هوش مصنوعی بیش از انسانها به گروههای جمعیتی برچسب میزند.
در یک آزمایش، محققان بازی شبیهسازی شدهای را طراحی کردند. آنها از مدلهایی مثل چتجیپیتی و کلود استفاده کردند. در این بازی، هوش مصنوعی نقش مشاور شهردار را داشت. وظیفه او استخدام افراد برای ۲۰ شغل مختلف بود. این شغلها شامل پزشک، وکیل و نظافتچی میشدند. متقاضیان از چهار گروه قومی خیالی انتخاب شده بودند. هدف مدل، استخدام موفقترین افراد طی ۴۰ مرحله بود. اما یک نکته کلیدی در این آزمایش وجود داشت. تمام نامزدها شانس یکسانی برای موفقیت در کار داشتند.
نتایج این تحقیق برای بسیاری از متخصصان شوکهکننده بود. مدلها به سرعت شروع به جداسازی گروههای قومی کردند. آنها افراد را بر اساس نتایج اولیه دستهبندی میکردند. اگر یک فرد از گروه خاصی در پزشکی شکست میخورد، مدل کل آن گروه را کنار میگذاشت. سپس آنها را برای شغلهای با پرستیژ کمتر در نظر میگرفت. برای مثال، آنها را به سمت شغل نظافت سوق میداد. این نشاندهنده یک مشکل عمیق در ساختار استدلالی مدلها است.
| شاخص مقایسه | شرکتکنندگان انسانی | مدل هوش مصنوعی (o3) |
|---|---|---|
| امتیاز تفکیک (از ۲.۰) | ۰.۸۴ | ۱.۸۳ |
| تمایل به تعمیم کلیشهها | متوسط | بسیار بالا |
| تأثیر تجربه ناموفق | تدریجی | لحظهای و شدید |
نقش استخدام با هوش مصنوعی در بازتولید کلیشههای انسانی
امروزه استخدام با هوش مصنوعی به یک استاندارد در شرکتهای بزرگ تبدیل شده است. مدلهای پیشرفتهتر مانند o3 اپنایآی سوگیریهای شدیدتری نشان دادند. این مدلها در استدلالهای منطقی بسیار قوی هستند. اما همین قدرت استدلال، در مسائل اجتماعی به یک نقطه ضعف تبدیل میشود. آنها تمایل دارند از دادههای بسیار اندک، قوانین کلی بسازند. رایان لیو، پژوهشگر دانشگاه پرینستون، این موضوع را تایید میکند. او میگوید مدلها برای تعمیم دادن بهینه شدهاند. این ویژگی در حل مسائل ریاضی عالی است. اما در محیطهای اجتماعی منجر به فاجعه میشود.
روانشناسان این پدیده را «تضاد بین اکتشاف و بهرهبرداری» مینامند. انسانها معمولاً بین انتخابهای جدید و گزینههای مطمئن تعادل برقرار میکنند. اما هوش مصنوعی خیلی زود به یک نتیجهگیری نهایی میرسد. او فرصت امتحان کردن گزینههای متنوع را از خود میگیرد. به محض اینکه یک مورد منفی ببیند، کل گروه را حذف میکند. این رفتار دقیقاً همان چیزی است که باعث ایجاد تبعیض نژادی میشود. مدلهای جدیدتر به دلیل حافظه بهتر، این اشتباه را بیشتر تکرار میکنند.
- مدلها اطلاعات کوچک را بیش از حد جدی میگیرند.
- آنها به جای بررسی فردی، به ویژگیهای گروهی توجه میکنند.
- حافظه طولانیمدت مدلها، سوگیریهای قبلی را تقویت میکند.
- شخصیسازی بیش از حد باعث محدود شدن گزینههای عادلانه میشود.
یکی دیگر از یافتههای مهم، تاثیر نوع اطلاعات بود. وقتی به مدل اطلاعات شخصی مرتبط مثل تحصیلات داده شد، سوگیری کاهش یافت. اما اطلاعات نامربوط مانند رنگ مو تاثیری در کاهش تبعیض نداشت. در این حالت، مدل دوباره به سراغ نژاد و قومیت افراد میرفت. این نشان میدهد که شفافیت دادهها چقدر در عدالت اهمیت دارد. صرفاً گفتن «عادل باش» به هوش مصنوعی کافی نیست. این دستورات معمولاً توسط اهداف بهینهسازی مدل نادیده گرفته میشوند.
راهکارهایی برای کاهش سوگیری در اخبار فناوری و صنعت
در بسیاری از اخبار فناوری، راهکارهای مختلفی برای این بحران پیشنهاد شده است. یکی از موثرترین روشها، تعریف پاداش برای تنوع در استخدام است. وقتی برای استخدامهای متنوع جایزه تعیین شد، تبعیض به شدت کاهش یافت. این یعنی ما باید ارزشهای اجتماعی را در اهداف ریاضی مدل بگنجانیم. هوش مصنوعی فقط به دنبال رسیدن به هدف تعیین شده است. اگر هدف فقط «سود» باشد، عدالت قربانی خواهد شد. طراحان باید عدالت را به عنوان یک پارامتر اصلی تعریف کنند.
چالش بعدی به دنیای واقعی و دادههای غیرآنی مربوط میشود. در آزمایشها، مدل بلافاصله نتیجه کارمند را متوجه میشد. اما در دنیای واقعی، ارزیابی یک کارمند ماهها زمان میبرد. با این حال، بازخوردها در نهایت به مدل باز میگردند. اگر مدل از نتایج گذشته درس اشتباه بگیرد، آینده شغلی بسیاری را نابود میکند. شرکتها باید قبل از پیادهسازی کامل، این خطرات را بسنجند. نظارت انسانی همچنان یک ضرورت غیرقابل انکار است.
- بررسی دورهای الگوریتمها توسط متخصصان اخلاق هوش مصنوعی.
- استفاده از دادههای آموزشی متنوع و پاکسازی شده.
- تنظیم دقیق اهداف مدل برای جلوگیری از تعمیم افراطی.
- شفافسازی فرآیند تصمیمگیری هوش مصنوعی برای متقاضیان.
در نهایت، تبعیض در عاملهای هوش مصنوعی یک مسئله فنی ساده نیست. این یک چالش اخلاقی و اجتماعی بزرگ است. ما در حال سپردن تصمیمات سرنوشتساز به ماشینها هستیم. این ماشینها هیچ درکی از عدالت یا انصاف ندارند. آنها فقط الگوهای آماری را دنبال میکنند. اگر این الگوها بر اساس کلیشهها باشند، بیعدالتی سیستماتیک ایجاد میشود. وظیفه ما این است که جلوی این روند را بگیریم. آگاهی عمومی اولین قدم برای اصلاح این فناوریهای قدرتمند است.
مدلهای هوش مصنوعی هر روز شخصیتر و باهوشتر میشوند. این هوش بیشتر لزوماً به معنای رفتار انسانیتر نیست. برعکس، میتواند منجر به رفتارهای تبعیضآمیز پیچیدهتری شود. شرکتهایی که از این ابزارها استفاده میکنند، مسئولیت بزرگی دارند. آنها باید مطمئن شوند که فناوری در خدمت تمام انسانها است. آینده استخدام نباید توسط الگوریتمهای متعصب نوشته شود. نظارت، آموزش و اخلاق، ستونهای اصلی هوش مصنوعی سالم هستند.
منبع:
https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/
Prentis, new AI lab co-founded by Reid Hoffman, Mark Pincus in talks to raise $100M
Why Cognition bought Poke: AI personality is becoming a competitive advantage
https://venturebeat.com/technology/venturebeat-research-where-enterprise-ai-agent-governance-hasnt-caught-up
https://venturebeat.com/orchestration/anthropic-launches-claude-opus-5-a-cheaper-ai-model-for-coding-agents-and-enterprise-workflows
https://venturebeat.com/orchestration/agentic-coding-goes-hands-free-as-openai-brings-gpt-lives-full-duplex-voice-control-to-codex-and-chatgpt-on-the-desktop
https://venturebeat.com/orchestration/openai-unveils-presence-a-new-platform-that-lets-enterprises-launch-and-manage-realtime-voice-agents-and-chatbots
مطالب مرتبط