آخرین بروزرسانی در ۱۵ دی ۱۴۰۴ توسط Dr.Arman
تصور کنید گرسنه هستید و با اشتیاق منتظر رسیدن پیتزایی میمانید که نیمساعت پیش سفارش دادهاید. ناگهان اعلانی روی گوشی شما ظاهر میشود: «غذا تحویل داده شد». با خوشحالی به سراغ عکس پیوست شده میروید و میبینید که جعبه پیتزا دقیقاً جلوی درِ قهوهایرنگ خانهتان قرار گرفته است. اما وقتی در را باز میکنید، با راهروی خالی مواجه میشوید! این ماجرا دیگر یک کابوس شبانه نیست، بلکه یکی از جدیدترین و عجیبترین اخبار در دنیای تکنولوژی است که نشان میدهد هوش مصنوعی چگونه راه خود را به کیف پول و سفرههای ما باز کرده است.
داستان از کجا شروع شد؟ یک تجربه واقعی در آستین
همه چیز از یک پست در شبکه اجتماعی X (توییتر سابق) شروع شد. «برن هوبارت»، ساکن شهر آستین تگزاس، تجربهای را به اشتراک گذاشت که در ابتدا باورنکردنی به نظر میرسید. او متوجه شد راننده دوردش (DoorDash) بلافاصله پس از قبول سفارش، آن را به عنوان «تحویل داده شده» علامت زده است. نکته عجیب اینجا بود که راننده عکسی را به عنوان مدرک ارسال کرده بود که به نظر میرسید با هوش مصنوعی ساخته شده است.
در این تصویر، کیسه غذا جلوی درِ خانه هوبارت دیده میشد، اما با کمی دقت میشد فهمید که نورپردازی، بافت کیسه و حتی نحوه قرارگیری آن در محیط، غیرطبیعی است. انگار کسی دنیای واقعی را با یک فیلتر دیجیتال کلاهبردارانه ترکیب کرده بود. شما هم اگر جای او بودید، احتمالاً در نگاه اول شک میکردید که آیا چشمانتان اشتباه میکند یا واقعاً تکنولوژی دارد علیه شکمتان توطئه میکند!
چرا این اتفاق همین حالا اهمیت پیدا کرده است؟
ما در دورانی زندگی میکنیم که هوش مصنوعی مولد (Generative AI) از یک ابزار سرگرمی برای ساختن تصاویر فانتزی، به ابزاری در دست افراد سودجو تبدیل شده است. تا پیش از این، ما نگران «دیپفیک» سیاستمداران یا کلاهبرداریهای بزرگ بانکی بودیم، اما حالا میبینیم که این تکنولوژی به سطحی از دسترسی رسیده که حتی یک راننده تحویل غذا هم میتواند از آن برای دور زدن سیستم استفاده کند.
این موضوع برای شما که عاشق دنیای هوش مصنوعی هستید، یک زنگ خطر است. نشان میدهد که شکافهای امنیتی در پلتفرمهای بزرگی مثل دوردش وجود دارد که اجازه میدهد تصاویر جعلی به عنوان مدرک فیزیکی پذیرفته شوند. این یعنی مرز بین «واقعیت عینی» و «واقعیت ساخته شده توسط ماشین» در حال محو شدن است، آن هم در سادهترین کارهای روزمره مثل سفارش دادن ناهار.
پشت پرده کلاهبرداری؛ راننده چطور این کار را انجام داد؟
شاید از خودتان بپرسید: «یک راننده چطور توانسته در عرض چند ثانیه عکسی دقیق از درِ خانه من با هوش مصنوعی بسازد؟» هوبارت معتقد است که راننده از یک گوشی جیلبریک شده (Jailbroken) و احتمالاً یک اپلیکیشن هک شده استفاده کرده است. نکته کلیدی اینجاست: دوردش قابلیتی دارد که عکسهای تحویلهای قبلی به یک آدرس را به راننده جدید نشان میدهد تا او بداند دقیقاً کجا باید غذا را بگذارد.
به نظر میرسد این فرد با دسترسی به عکس قدیمی درِ خانه مشتری، آن را به یک ابزار تولید تصویر هوش مصنوعی داده و از او خواسته تا یک کیسه غذای دوردش را در آن صحنه قرار دهد. نتیجه؟ تصویری که در نگاه اول کاملاً واقعی به نظر میرسد، اما در حقیقت وجود خارجی ندارد. این یعنی کلاهبردار حتی زحمت نزدیک شدن به محله شما را هم به خود نداده است!
وقتی هوش مصنوعی همدست سارقان میشود
این فقط یک مورد خاص نبود. بعد از انتشار پست هوبارت، شخص دیگری از همان شهر آستین گزارش داد که دقیقاً همین اتفاق برای او هم افتاده است؛ آن هم توسط رانندهای با همان نام کاربری! این یعنی ما با یک الگوی سازمانیافته طرف هستیم. استفاده از AI برای «فیک کردن» موقعیت مکانی و وضعیت تحویل، راه جدیدی برای کسب درآمد بدون انجام کار واقعی است.
برای من و شما که پیشرفتهای هوش مصنوعی را دنبال میکنیم، این یک پارادوکس بزرگ است. از یک طرف از قدرت میدجرنی (Midjourney) و دال-ای (DALL-E) در خلق آثار هنری شگفتزده میشویم و از طرف دیگر میبینیم که چطور همان تکنولوژی میتواند اعتماد عمومی را در یک اپلیکیشن خدماتی نابود کند. اینجاست که اخلاق در هوش مصنوعی فراتر از یک بحث دانشگاهی، به یک ضرورت در اپلیکیشنهای گوشیهایمان تبدیل میشود.
چطور متوجه تصاویر جعلی در سفارشهای خود شویم؟
اگر شما هم از اپلیکیشنهای واسط برای سفارش استفاده میکنید، باید چشمانتان را به دیدن جزئیات عادت دهید. هوش مصنوعی هرچقدر هم پیشرفته باشد، هنوز در برخی موارد سوتی میدهد. به سایهها دقت کنید؛ آیا سایه کیسه با جهت نور در خیابان شما همخوانی دارد؟ به متنهای روی کیسه یا فاکتور نگاه کنید؛ هوش مصنوعی معمولاً در بازسازی دقیق حروف و کلمات روی اشیاء ضعیف عمل میکند.
نکته دیگر، زمانبندی است. اگر سفارش شما در همان لحظه که راننده آن را تحویل گرفته، «تحویل داده شده» علامت خورد، شک نکنید که یک جای کار میلنگد. کلاهبرداران معمولاً عجله دارند تا سراغ طعمه بعدی بروند. در چنین شرایطی، بلافاصله با پشتیبانی تماس بگیرید و از آنها بخواهید مختصات GPS راننده را در زمان ثبت عکس بررسی کنند.
واکنش شرکتها؛ جنگ تکنولوژی علیه تکنولوژی
سخنگوی دوردش در گفتگو با تککرانچ اعلام کرد که حساب این راننده را برای همیشه مسدود کردهاند. آنها مدعی هستند که از ترکیبی از بازبینی انسانی و تکنولوژی برای شناسایی این موارد استفاده میکنند. اما سوال اصلی این است: آیا سیستمهای فعلی آمادگی مقابله با سیل تصاویر جعلی را دارند؟
پاسخ احتمالاً «خیر» است. شرکتها باید به سمت استفاده از امضاهای دیجیتال برای عکسهای دوربین و یا الگوریتمهای تشخیص AI در داخل خود اپلیکیشن بروند. همانطور که هوش مصنوعی برای فریب دادن پیشرفت میکند، ابزارهای تشخیص فریب هم باید با همان سرعت رشد کنند. این یک بازی موش و گربه دائمی در دنیای مدرن است.
آینده اعتماد در عصر هوش مصنوعی
در نهایت، این داستان به ما یادآوری میکند که تکنولوژی به خودی خود نه خوب است و نه بد؛ همه چیز به دستانی بستگی دارد که از آن استفاده میکنند. هوش مصنوعی میتواند به راننده کمک کند تا مسیر بهتری پیدا کند، اما میتواند به او کمک کند تا یک کلاهبرداری بینقص را هم طراحی کند. ما به عنوان کاربران و علاقمندان به این حوزه، باید آگاهتر از همیشه باشیم.
همیشه به یاد داشته باشید که در دنیای جدید، دیدن لزوماً به معنای باور کردن نیست. دفعه بعد که عکسی از تحویل سفارشتان دیدید، شاید بد نباشد نگاهی دقیقتر به سایهها بیندازید! شما چه فکر میکنید؟ آیا تا به حال تجربه مشابهی داشتهاید یا فکر میکنید هوش مصنوعی در ایران هم میتواند به این زودیها وارد فضای کلاهبرداریهای اینچنینی شود؟ نظرات خود را با ما به اشتراک بگذارید.
منبع:
DoorDash says it banned driver who seemingly faked a delivery using AI
مطالب مرتبط