آخرین بروزرسانی در ۱۴ آذر ۱۴۰۴ توسط Dr.Arman
تصور کنید صدای یک سیاستمدار معروف با شما تماس میگیرد و از شما میخواهد در انتخابات شرکت نکنید. این اتفاق در ژانویه ۲۰۲۴ برای هزاران نفر در آمریکا افتاد؛ صدایی شبیه به جو بایدن، اما کاملاً جعلی. این نمونهای از اتوماسیون با هوش مصنوعی است. اما داستان واقعی و ترسناکتر، فراتر از جعل صداست. تهدید اصلی، توانایی اثباتشده هوش مصنوعی در تغییر دادن باورهای شماست.
چرا این موضوع همین حالا اهمیت حیاتی دارد؟
تا همین چند وقت پیش، نگرانی اصلی ما دیپفیکها و ویدیوهای جعلی بود. اما تکنولوژی یک قدم بزرگ و نامرئی به جلو برداشته است. هوش مصنوعی دیگر فقط یک مقلد بااستعداد نیست؛ به یک استاد متقاعدسازی تبدیل شده است. تحقیقات جدید و معتبری که همین هفته منتشر شد، نشان میدهد چتباتهای هوش مصنوعی میتوانند نظرات رأیدهندگان را به مراتب بیشتر از تبلیغات سیاسی سنتی تغییر دهند. این یک تهدید مربوط به آینده نیست. ابزارهای آن همین حالا در دسترس، ارزان و قدرتمند هستند و شما به عنوان یک علاقهمند به هوش مصنوعی، باید بدانید این فناوری چگونه در حال تغییر دادن جهان است.
ماشین متقاعدسازی چگونه کار میکند؟
اینجا دیگر صحبت از یک ابزار ساده نیست، بلکه یک «ماشین متقاعدسازی» کاملاً خودکار است. تصور کنید: یک هوش مصنوعی پیام را مینویسد، دیگری با ابزارهایی مثل Sora برای آن ویدیو میسازد، سومی آن را با صدایی قابل اعتماد میخواند و چهارمی آن را در شبکههای اجتماعی توزیع کرده و بازخوردها را تحلیل میکند تا ببیند کدام پیام بهتر جواب میدهد. همه اینها بدون نیاز به حتی یک انسان.
یک دهه پیش، برای چنین کاری به ارتشی از انسانها نیاز بود. امروز، همان فناوری که در چتباتهای خدمات مشتریان یا اپلیکیشنهای آموزشی استفاده میکنید، میتواند برای تغییر دیدگاههای سیاسی به کار گرفته شود. این نفوذ میتواند به شکلی نامرئی در ابزارهای روزمره شما بافته شود: از فید شبکههای اجتماعی گرفته تا اپهای آموزش زبان یا حتی دستیارهای صوتی.
یک تهدید ارزان و اثباتشده
و بخش نگرانکننده ماجرا؟ این کار فوقالعاده ارزان است. با کمتر از یک میلیون دلار، میتوان برای تمام رأیدهندگان ثبتشده در آمریکا پیامهای شخصیسازیشده و تعاملی فرستاد. طبق دو مطالعه بزرگ که به تازگی منتشر شده، یک مکالمه کوتاه با چتبات میتواند نگرش رأیدهندگان را تا ۱۰ درصد تغییر دهد. وقتی این مدلها به طور خاص برای متقاعدسازی بهینه شدند، این تغییر به ۲۵ درصد رسید؛ عددی که در دنیای سیاست تقریباً غیرقابل تصور است.
این فقط یک تئوری نیست. در انتخابات ۲۰۲۴ هند، دهها میلیون دلار صرف هوش مصنوعی برای ارسال پیامهای شخصیسازیشده شد. در تایوان، عملیاتهای مرتبط با چین از هوش مصنوعی مولد برای انتشار اطلاعات جهتدار استفاده کردهاند. این فناوری به لطف مدلهای اوپنسورس، دیگر در انحصار شرکتهای بزرگ نیست و هر کسی با دسترسی به اینترنت میتواند از آن استفاده کند.
آیا راهی برای مقابله وجود دارد؟
خبر خوب این است که مجبور نیستیم هوش مصنوعی را از زندگی سیاسی حذف کنیم. برخی کاربردهای آن حتی میتوانند دموکراسی را تقویت کنند؛ مثل یک چتبات که مواضع یک کاندیدا را به زبان ساده برای شما توضیح دهد. با این حال، برای مقابله با تهدید متقاعدسازی، چند قدم کلیدی وجود دارد که باید برداشته شود:
۱. ارزیابی فناوریهای خارجی: اولین قدم، شناسایی و ارزیابی ابزارهای هوش مصنوعی ساختهشده توسط کشورهای رقیب است، قبل از اینکه به طور گسترده استفاده شوند. این نفوذ میتواند در یک بازی ویدیویی، یک شبکه اجتماعی یا حتی یک اپلیکیشن آموزش زبان پنهان شده باشد.
۲. ایجاد قوانین و استانداردهای جهانی: باید قوانینی شفاف برای نحوه عملکرد سیستمهای هوش مصنوعی در زمان انتخابات وضع شود. این شامل محدود کردن دسترسی به قدرت پردازشی برای کمپینهای نفوذ خارجی و ایجاد استانداردهای فنی مشترک است.
۳. همکاری بینالمللی: این یک مشکل جهانی است. کشورها باید با یکدیگر برای شناسایی و مقابله با کمپینهای نفوذ فرامرزی همکاری کنند. ایجاد یک سیستم راداری مشترک برای ردیابی این فعالیتها ضروری است.
دنیای جدید در چند قدمی ماست
آن تماس تلفنی جعلی از جو بایدن، تنها یک پیشنمایش کوچک بود. دهه آینده نه با ویدیوهای دروغین وایرال، بلکه با پیامهای هوشمندانهای شکل میگیرد که منطقی، آشنا و دقیقاً به اندازهای متقاعدکننده به نظر میرسند که قلب و ذهن شما را تغییر دهند. این یک واقعیت است، نه یک تهدید دور. درک این فناوری و ساختن سپرهای دفاعی در برابر آن، وظیفه همه ماست، قبل از آنکه خیلی دیر شود.
منبع:
https://www.technologyreview.com/2025/12/05/1128837/the-era-of-ai-persuasion-in-elections-is-about-to-begin/
مطالب مرتبط