آخرین بروزرسانی در ۱۱ بهمن ۱۴۰۴ توسط Dr.Arman
تصور کنید با پرداخت تنها ۵۰ سنت، میتوانید نسخهای کاملاً دیجیتالی و واقعگرایانه از هر کسی که میخواهید بسازید؛ از یک سلبریتی مشهور گرفته تا همسایه دیوار به دیوارتان. این یک سناریوی علمی-تخیلی نیست، بلکه واقعیتی است که در قلب دنیای هوش مصنوعی ساخت عکس در حال رخ دادن است. جایی که تکنولوژی و اخلاق در مقابل هم صفآرایی کردهاند و مرز بین خلاقیت و سوءاستفاده به باریکی یک تار مو شده است.
چرا این موضوع فراتر از یک خبر ساده است؟
اگر شما هم از عاشقان دنیای هوش مصنوعی باشید، احتمالاً نام Civitai به گوشتان خورده است؛ پلتفرمی که به عنوان «یوتیوبِ مدلهای هوش مصنوعی» شناخته میشود. اما گزارشهای جدید نشان میدهند که زیر لایهی براق و جذابِ این پلتفرم که توسط غولهای سرمایهگذاری مانند Andreessen Horowitz حمایت میشود، اتفاقات نگرانکنندهای در جریان است. ما در دورانی هستیم که ابزارهای تولید تصویر آنقدر قدرتمند شدهاند که مدیریت آنها از دست سازندگانشان هم خارج شده است. این موضوع نه تنها امنیت روانی زنان را هدف گرفته، بلکه کل اکوسیستم هوش مصنوعی را با چالشی بزرگ روبهرو کرده است.
سیستم «جایزه»؛ وقتی برای جعل هویت پول پرداخت میشود
یکی از جالبترین و البته ترسناکترین بخشهای Civitai، سیستمی به نام «Bounties» یا همان جوایز است. ماجرا از این قرار است که کاربران درخواستی را ثبت میکنند (مثلاً ساخت مدلی از چهره یک زن خاص) و برای آن مبلغی تعیین میکنند. محققان دانشگاه استنفورد و ایندیانا با بررسی هزاران درخواست بین سالهای ۲۰۲۳ تا ۲۰۲۴ متوجه شدند که بخش بزرگی از این درخواستها مستقیماً مربوط به «دیپفیک» یا جعل چهره افراد واقعی بوده است. نکته تکاندهنده اینجاست که ۹۰ درصد این درخواستها، زنان را هدف قرار داده بودند.
فایلهای LoRA؛ سلاح پنهان در دستان کاربران
شاید بپرسید چطور یک پلتفرم اجازه میدهد چنین محتوایی تولید شود؟ پاسخ در یک واژه فنی نهفته است: LoRA. این فایلها در واقع «کتابهای راهنمای کوچکی» هستند که به مدلهای بزرگی مثل Stable Diffusion آموزش میدهند چگونه چیزی را بسازند که در حالت عادی برای آن آموزش ندیدهاند. کاربران با استفاده از این فایلها میتوانند هوش مصنوعی را مجبور کنند تصاویری با جزئیات دقیق از یک فرد خاص، با لباس یا موقعیتی خاص تولید کند. جالب است بدانید ۸۶ درصد از درخواستهای دیپفیک در این سایت، دقیقاً برای ساخت همین فایلهای LoRA بوده است.
قربانیان فقط سلبریتیها نیستند
در حالی که نامهایی مثل چارلی دیآملیو یا گریسی آبرامز در صدر درخواستها دیده میشوند، اما ماجرا به اینجا ختم نمیشود. محققان به مواردی برخوردند که کاربران برای ساخت دیپفیک از زنان فعال در یوتیوب (مثل هنرمندان ASMR) و حتی در یک مورد بسیار عجیب، برای ساخت مدل هوش مصنوعی از «همسر خود کاربر» درخواست ثبت کرده بودند. این نشان میدهد که ابزارهای هوش مصنوعی ساخت عکس اکنون به مرحلهای رسیدهاند که هر کسی، بدون دانش فنی زیاد، میتواند حریم خصوصی دیگران را به حراج بگذارد.
وقتی پولهای مجازی راه قانون را دور میزنند
سایت Civitai برای تبادلات مالی خود از واحدی به نام Buzz استفاده میکند. در سال ۲۰۲۵، درگاههای پرداخت بینالمللی به دلیل وجود محتوای غیراخلاقی، همکاری خود را با این سایت قطع کردند. اما آیا این پایان کار بود؟ خیر. اینجاست که خلاقیت کاربران در مسیرهای خاکستری خود را نشان میدهد؛ آنها اکنون از ارزهای دیجیتال و گیفتکارتها برای خرید Buzz استفاده میکنند تا همچنان بتوانند به سفارش و خرید مدلهای غیرقانونی ادامه دهند. این نشاندهنده شکاف بزرگی بین قوانین مالی سنتی و دنیای غیرمتمرکز هوش مصنوعی است.
مسئولیت پلتفرمها کجاست؟
مدیران Civitai مدعی هستند که در حال پاکسازی سایت هستند و تمام دیپفیکهای افراد واقعی را ممنوع کردهاند. اما واقعیت میدانی که توسط MIT Technology Review بررسی شده، چیز دیگری را نشان میدهد. بسیاری از درخواستهایی که قبل از ممنوعیت ثبت شده بودند، هنوز زنده هستند و مدلهای ساخته شده برای آنها به راحتی خرید و فروش میشوند. متیو دورنا، پژوهشگر استنفورد، معتقد است که این شرکتها به جای پیشگیری، مسئولیت را به دوش جامعه میاندازند و تنها زمانی اقدام میکنند که شکایتی ثبت شود.
درسهایی برای ما: چگونه یک کاربر آگاه باشیم؟
به عنوان کسی که به دنیای تکنولوژی علاقه دارد، شما باید بدانید که قدرت بزرگ، مسئولیت بزرگ هم به همراه دارد. استفاده از هوش مصنوعی برای خلق هنر دیجیتال، طراحی لباس یا معماری شگفتانگیز است؛ اما وقتی این ابزار برای تخریب شخصیت یا نقض حریم خصوصی افراد استفاده میشود، تمام جامعه تکنولوژی آسیب میبیند. اولین قدم برای ما، شناخت پلتفرمهای اخلاقمدار و حمایت نکردن از فضاهایی است که به سوءاستفاده از چهره انسانها دامن میزنند.
آینده هوش مصنوعی؛ دره سیلیکون در دوراهی اخلاق
سرمایهگذاران بزرگی مثل Andreessen Horowitz که میلیونها دلار روی این استارتاپها شرطبندی کردهاند، حالا تحت فشار هستند. قانونگذاران در حال بررسی مجدد بند ۲۳۰ قانون ارتباطات هستند تا ببینند آیا میتوان پلتفرمها را مسئول مستقیم محتوای تولید شده توسط کاربران دانست یا خیر. تا آن زمان، این خودِ ما هستیم که با رفتارمان در فضای مجازی، مشخص میکنیم که آیا هوش مصنوعی ابزاری برای تعالی انسان خواهد بود یا وسیلهای برای سقوط اخلاقی.
سخن پایانی: خلاقیت یا تخریب؟
ماجرای Civitai به ما یادآوری میکند که تکنولوژی به خودی خود نه خوب است و نه بد؛ این نیت و نحوه استفاده ماست که به آن جهت میدهد. جعل چهره یک انسان با چند کلیک، شاید برای برخی یک سرگرمی یا منبع درآمد کوچک باشد، اما برای قربانیان آن، کابوسی بیپایان است. به نظر شما، آیا شرکتهای بزرگ باید به خاطر ابزارهایی که در اختیار کاربران قرار میدهند مجازات شوند؟ یا مسئولیت نهایی همیشه با فردی است که دکمه «تولید تصویر» را فشار میدهد؟ نظرات خود را با ما در میان بگذارید تا این بحث جذاب را ادامه دهیم.
منبع:
https://www.technologyreview.com/2026/01/30/1131945/inside-the-marketplace-powering-bespoke-ai-deepfakes-of-real-women/
مطالب مرتبط