آخرین بروزرسانی در ۴ اسفند ۱۴۰۴ توسط Dr.Arman
تصور کنید در حال بررسی فایلهای مشکوک در یک سایت امنیتی هستید که ناگهان با چیزی برخورد میکنید که مو به تنتان سیخ میکند؛ فایلی که نه تنها یک ویروس است، بلکه انگار «مغز» دارد. این دقیقاً اتفاقی بود که برای آنتون چرپانوف افتاد. او در میان اخبار و دادههای روزمره، به کدی برخورد کرد که به جای رفتارهای تکراری، از هوش مصنوعی برای نوشتن یادداشتهای باجگیری شخصیسازی شده و تغییر خودکار کدها استفاده میکرد. این شروع یک بازی جدید و خطرناک در دنیای دیجیتال است.
چرا این موضوع همین حالا برای شما حیاتی است؟
شاید فکر کنید حملات سایبری فقط مربوط به شرکتهای بزرگ یا سازمانهای دولتی است، اما ورود هوش مصنوعی (AI) به این عرصه، بازی را به نفع تبهکاران تغییر داده است. ابزارهایی که ما برای نوشتن ایمیل یا تولید محتوا عاشقشان هستیم، حالا به دست افرادی افتاده که میخواهند از آنها برای فریب دادن ما استفاده کنند. سرعت پیشرفت این فناوری به قدری بالاست که حتی متخصصان امنیتی هم گاهی از آن جا میمانند. ما در دورانی هستیم که مرز بین یک ایمیل دوستانه و یک کلاهبرداری پیچیده، به اندازه یک خط کد هوش مصنوعی باریک شده است.
داستان عجیب PromptLock؛ وقتی کابوس واقعیت داشت (یا نداشت!)
وقتی آنتون و همکارش پیتر، بدافزار PromptLock را کشف کردند، جهان شوکه شد. این اولین باری بود که میدیدیم یک باجافزار به صورت کاملاً خودکار از مدلهای زبانی بزرگ (LLM) برای تحلیل سیستم قربانی و رمزگذاری فایلها استفاده میکند. این نرمافزار میتوانست بدون دخالت انسان، استراتژی حمله خود را در لحظه تغییر دهد. اما نکته جالب اینجا بود که یک روز بعد، محققان دانشگاه نیویورک فاش کردند که این فقط یک پروژه تحقیقاتی بوده تا ثابت کنند «میتوان» چنین حملات خودکاری ساخت.
اگرچه PromptLock یک حمله واقعی در دنیای خارج نبود، اما پیامی جدی برای همه ما داشت: فناوری لازم برای ساخت هکرهای خودکار همین حالا وجود دارد. تبهکاران واقعی شاید هنوز به پیچیدگی این پروژه دانشگاهی نرسیده باشند، اما آنها از همین حالا در حال استفاده از ابزارهای هوش مصنوعی برای کاهش هزینهها و افزایش سرعت حملات خود هستند. این یعنی حتی یک هکر تازهکار هم میتواند با کمک AI، حملاتی را طراحی کند که قبلاً فقط از عهده تیمهای حرفهای برمیآمد.
دیپفیک؛ کلاهبرداری ۲۵ میلیون دلاری در یک تماس تصویری
یکی از ترسناکترین جنبههای پیشرفت هوش مصنوعی، توانایی آن در جعل هویت است. حتماً درباره دیپفیکها شنیدهاید، اما آیا میدانستید که یک کارمند در هنگکنگ، تنها با شرکت در یک تماس تصویری که تمام همکارانش در آن جعلی بودند، ۲۵ میلیون دلار به حساب تبهکاران واریز کرد؟ تبهکاران با استفاده از تصاویر و صداهای ضبط شده مدیران شرکت، یک جلسه مجازی کاملاً متقاعدکننده ساخته بودند. این دیگر یک ایمیل ساده فیشینگ نیست؛ این یک تئاتر دیجیتال است که قربانی در آن هیچ راهی برای تشخیص حقیقت ندارد.
هوش مصنوعی هزینه تولید این محتواهای جعلی را به شدت کاهش داده است. اگر در گذشته برای ساخت یک ویدیو یا صدای جعلی نیاز به ساعتها پردازش و حجم عظیمی از داده بود، امروز با چند دقیقه ویدیو از شبکههای اجتماعی شما، میتوان نسخهای دیجیتالی از شما ساخت که حتی مادرتان را هم فریب دهد. کارشناسان معتقدند این نوع کلاهبرداریها به زودی به قدری رایج میشوند که باید به هر چیزی که در فضای مجازی میبینیم یا میشنویم، شک کنیم.
وقتی هکرها از چتباتها به عنوان دستیار استفاده میکنند
ما از هوش مصنوعی برای دیباگ کردن کدهایمان استفاده میکنیم، هکرها هم دقیقاً همین کار را انجام میدهند. گزارشهای اخیر گوگل نشان میدهد که گروههای هکری تحت حمایت دولتها، از مدلهایی مثل Gemini برای شناسایی نقاط ضعف سیستمها استفاده کردهاند. جالب اینجاست که وقتی این مدلها به دلیل محدودیتهای اخلاقی از پاسخ دادن خودداری میکردند، هکرها با ترفندهایی مثل «نقشبازی کردن» (مثلاً وانمود کردن به اینکه در یک مسابقه امنیتی هستند)، هوش مصنوعی را دور میزدند تا اطلاعات لازم را به دست آورند.
این یعنی هوش مصنوعی به یک «تقویتکننده بهرهوری» برای مجرمان تبدیل شده است. مدلهای متنباز (Open-source) در این میان خطر بیشتری دارند، چون تبهکاران میتوانند لایههای امنیتی آنها را حذف کرده و آنها را دقیقاً برای اهداف مخرب خود آموزش دهند. تصور کنید یک هوش مصنوعی داشته باشید که ۲۴ ساعته در حال اسکن کردن اینترنت برای پیدا کردن کوچکترین حفره در سیستمهای شماست و به محض پیدا کردن آن، بدون نیاز به استراحت، حمله را آغاز میکند.
گزارش تکاندهنده آنتروپیک؛ خودکارسازی ۹۰ درصدی حملات
شرکت Anthropic به تازگی فاش کرد که یک گروه هکری چینی توانسته بود با استفاده از دستیار کدنویسی آنها (Claude Code)، حدود ۹۰ درصد از مراحل یک حمله جاسوسی پیچیده را خودکارسازی کند. اگرچه هنوز هم برای انتخاب هدف نهایی به انسان نیاز بود، اما سرعت و مقیاس حمله به شدت افزایش یافته بود. البته نکته امیدوارکننده اینجاست که هوش مصنوعی هنوز هم گاهی دچار «توهم» میشود و اطلاعات غلط تولید میکند که باعث کند شدن روند حمله میشود.
با این حال، یعقوب کلاین، مدیر واحد تهدیدات آنتروپیک، هشدار میدهد که ما در حال ورود به دورانی هستیم که سد ورود به دنیای هکهای پیشرفته به شدت پایین آمده است. به زودی شاهد حملاتی خواهیم بود که با چنان سرعتی اتفاق میافتند که سازمانها فرصت واکنش نشان دادن نخواهند داشت. این یک مسابقه تسلیحاتی دیجیتال است که در آن هر دو طرف، هم مدافعان و هم مهاجمان، به پیشرفتهترین ابزارهای AI مجهز شدهاند.
چگونه در این دنیای جدید از خودمان محافظت کنیم؟
شاید بپرسید در مقابل چنین تهدیدات هوشمندی، ما چه کاری میتوانیم انجام دهیم؟ خبر خوب این است که ابزارهای دفاعی ما هم در حال هوشمندتر شدن هستند. مایکروسافت روزانه بیش از ۱۰۰ تریلیون سیگنال مشکوک را با کمک هوش مصنوعی تحلیل میکند تا جلوی حملات را بگیرد. اما بخش بزرگی از امنیت به خود شما بستگی دارد. در اینجا چند گام عملی و ساده برای شما آوردهایم که میتواند تفاوت بزرگی ایجاد کند:
اول از همه، به تماسهای تصویری یا صوتی غیرمنتظره، حتی از طرف دوستان یا مدیران شرکت، با دیده تردید نگاه کنید. همیشه از یک راه ارتباطی دیگر برای تایید هویت آنها استفاده کنید. دوم، استفاده از تایید هویت دو مرحلهای (2FA) دیگر یک انتخاب نیست، بلکه یک ضرورت است. هوش مصنوعی شاید بتواند رمز عبور شما را حدس بزند، اما دسترسی به کد فیزیکی روی گوشی شما برایش بسیار دشوارتر است. و در نهایت، سیستمهای خود را همیشه بهروز نگه دارید؛ اکثر حملات هوش مصنوعی از حفرههایی استفاده میکنند که قبلاً وصله امنیتی آنها ارائه شده است.
سخن پایانی؛ هوشیاری در عصر ماشینهای هوشمند
هوش مصنوعی نه ذاتاً خوب است و نه بد؛ این ابزاری است که قدرت هر کسی را که از آن استفاده میکند، چند برابر میکند. اگرچه داستانهایی مثل PromptLock نشان میدهند که آینده میتواند کمی ترسناک باشد، اما به یاد داشته باشید که ما هم ابزارهای قدرتمندی در دست داریم. با آگاهی از روشهای جدید تبهکاران و حفظ هوشیاری دیجیتال، میتوانیم از مزایای شگفتانگیز AI لذت ببریم بدون اینکه قربانی آن شویم.
آیا شما تا به حال با موردی برخورد کردهاید که احساس کنید یک هوش مصنوعی پشت آن بوده است؟ نظرات خود را با ما در میان بگذارید و این مطلب را برای دوستانی که به امنیت دیجیتال خود اهمیت میدهند، بفرستید. دنیای هوش مصنوعی با تمام خطراتش، هنوز هم فرصتهای بینظیری برای یادگیری و پیشرفت دارد، به شرطی که بدانیم چگونه در آن قدم برداریم.
منبع:
https://www.technologyreview.com/2026/02/12/1132386/ai-already-making-online-swindles-easier/
مطالب مرتبط