آخرین بروزرسانی در ۱۱ بهمن ۱۴۰۴ توسط Dr.Arman
تصور کنید در ارتفاع ۳۰ هزار پایی هستید و ناگهان به این فکر میافتید که قوانینی که پیچوبرههای این هواپیما را در جای خود نگه داشتهاند، توسط یک هوش مصنوعی و در عرض چند دقیقه نوشته شدهاند. این سناریویی است که طبق «اخبار داغ» اخیر، در وزارت ترابری ایالات متحده (DOT) در حال تبدیل شدن به واقعیت است؛ جایی که سرعت بر دقت پیروز شده است. این خبر نه تنها در دنیای سیاست، بلکه در میان ما عاشقان تکنولوژی هم ولولهای به پا کرده است.
چرا این موضوع همین حالا به یک بحران تبدیل شده است؟
شاید فکر کنید استفاده از هوش مصنوعی برای نوشتن چند خط قانون ساده چه مشکلی دارد؟ اما وقتی صحبت از وزارت ترابری در میان باشد، موضوع فراتر از یک متن ساده است. قوانینی که اینجا دربارهشان حرف میزنیم، همانهایی هستند که مانع از انفجار خطوط لوله گاز میشوند، هواپیماها را در آسمان نگه میدارند و جلوی خروج قطارهای حامل مواد شیمیایی سمی از ریل را میگیرند.
تحقیقات جدید «پروپابلیکا» نشان داده که این وزارتخانه به اولین آژانس دولتی تبدیل شده که از هوش مصنوعی، مشخصاً «گوگل جمینای»، برای پیشنویس قوانین ایمنی استفاده میکند. این در حالی است که همه ما میدانیم هوش مصنوعی، با تمام هوشش، گاهی با اعتماد به نفس کامل اطلاعات غلط میسازد یا به اصطلاح دچار «توهم» میشود. حالا تصور کنید این توهم در متن قانونی وارد شود که قرار است جان هزاران مسافر را حفظ کند.
فلسفه «خوب به جای عالی»؛ وقتی سرعت حرف اول را میزند
اگر از کارشناسان بپرسید، تدوین یک قانون ایمنی معمولاً هفتهها یا حتی ماهها زمان میبرد. اما گرگوری زرزان، وکیل ارشد وزارت ترابری، دیدگاه متفاوتی دارد. طبق یادداشتهای فاش شده از یک جلسه در ماه دسامبر، او معتقد است که هدف، رسیدن به یک قانون «بینقص» یا حتی «خیلی خوب» نیست. او صراحتاً به کارکنان گفته است: «ما فقط یک قانون به اندازه کافی خوب میخواهیم.»
او معتقد است با استفاده از جمینای، فرآیندی که ماهها طول میکشید، حالا میتواند در کمتر از ۳۰ روز انجام شود. نکته عجیبتر اینجاست که طبق گفتههای او، گوگل جمینای میتواند پیشنویس یک قانون را در کمتر از ۳۰ دقیقه آماده کند. برای رهبران جدید، این یعنی کارایی فوقالعاده، اما برای کارمندانی که دههها تجربه دارند، این یعنی بازی با جان مردم.
شک و تردید عمیق کارشناسان؛ جمینای واقعاً چه میکند؟
پروپابلیکا با شش کارمند وزارت ترابری که نخواستند نامشان فاش شود گفتگو کرده است. آنها میگویند نسبت به تواناییهای جمینای «عمیقاً شکاک» هستند. نوشتن قوانین ترابری یک کار بسیار پیچیده است که نیاز به تخصص در موضوعات فنی، قوانین موجود و رویههای قضایی دارد. هوش مصنوعی شاید در ترکیب کلمات عالی باشد، اما آیا درک درستی از پیامدهای فیزیکی یک قانون در دنیای واقعی دارد؟
در یکی از جلسات نمایش تواناییهای جمینای، این ابزار سندی تولید کرد که بخشهای کلیدی متن در آن مفقود بود و یک کارمند انسانی باید آنها را پر میکرد. این دقیقاً همان جایی است که ترسها شکل میگیرند. اگر یک اشتباه کوچک از زیر دست بازرس انسانی رد شود، چه اتفاقی میافتد؟ ما همین حالا هم شاهد جریمه شدن وکلایی بودهایم که به استنادات جعلی هوش مصنوعی در دادگاه اعتماد کردهاند؛ حالا فکر کنید این اشتباهات به بدنه قوانین کشوری نفوذ کند.
برخورد دو دیدگاه: «سالاد کلمات» یا تخصص فنی؟
جالب است بدانید که به کارکنان وزارتخانه گفته شده بخش زیادی از مقدمه اسناد قانونی صرفاً «سالاد کلمات» (Word Salad) است و جمینای در درست کردن این سالاد تخصص دارد! برخی کارشناسان میگویند اگر از هوش مصنوعی به عنوان یک دستیار پژوهشی تحت نظارت شدید استفاده شود، میتواند مفید باشد، اما وزارت ترابری انگار میخواهد پا را بسیار فراتر بگذارد.
در حال حاضر، انتظار میرود که جمینای ۸۰ تا ۹۰ درصد کار نوشتن مقررات را انجام دهد. چشمانداز آینده حتی عجیبتر است: زمانی خواهد رسید که کارمندان دولتی فقط ناظر «تعاملات هوش مصنوعی با هوش مصنوعی» خواهند بود. یعنی ماشینها قانون مینویسند و ماشینهای دیگر بر آنها نظارت میکنند و انسانها فقط از دور تماشاچی هستند.
نقش دونالد ترامپ و رقابت غولهای تکنولوژی
دونالد ترامپ از این ابتکار عمل وزارت ترابری بسیار هیجانزده است. زرزان به کارکنان گفته است که ترامپ، وزارت ترابری را «نوک پیکان» این تغییرات میبیند و انتظار دارد سایر آژانسهای دولتی هم از این الگو پیروی کنند. هدف نهایی، نوسازی سریع قوانین برای حوزههایی مثل خودروهای خودران است که نیاز به چارچوبهای منعطف و «نوآوریپسند» دارند.
در این میان، گوگل هم بیکار ننشسته است. در رقابتی تنگاتنگ با OpenAI و Anthropic، گوگل موفق شده قرارداد مهمی با وزارت ترابری امضا کند. در حالی که رقبا قراردادهای یک دلاری پیشنهاد میدادند، گوگل دسترسی یکساله به جمینای را با قیمت باورنکردنی ۰.۴۷ دلار (۴۷ سنت) عرضه کرد! گوگل مدعی است که این حرکت به وزارت ترابری کمک میکند تا «امنترین و مدرنترین سیستم ترابری جهان» را داشته باشد، ادعایی که با نگرانیهای داخلی وزارتخانه فاصله زیادی دارد.
ارزش عملی برای شما: در دنیای قانونگذاری هوش مصنوعی چطور هوشمند بمانیم؟
به عنوان کسی که عاشق دنیای AI است، این خبر برای شما یک درس بزرگ دارد. ما در مرحلهای هستیم که هوش مصنوعی از یک ابزار سرگرمی به یک ابزار حکمرانی تبدیل شده است. برای اینکه از این تحولات عقب نمانید، چند نکته را در نظر داشته باشید:
- نظارت انسانی (Human-in-the-loop) حیاتی است: هرگز به خروجیهای هوش مصنوعی در کارهای حساس به صورت ۱۰۰ درصد اعتماد نکنید. حتی ابزارهای پیشرفتهای مثل جمینای هم ممکن است در جزئیات فنی اشتباه کنند.
- سرعت همیشه به معنای کیفیت نیست: در پروژههای خود، تفاوت بین «کار راه انداز بودن» و «دقیق بودن» را درک کنید.
- اخلاق در AI را جدی بگیرید: بحثهای مربوط به مسئولیتپذیری (Accountability) در هوش مصنوعی را دنبال کنید. اگر یک قانون نوشته شده توسط AI باعث حادثه شود، چه کسی مسئول است؟ برنامهنویس، اپراتور یا مدیر آژانس؟
نتیجهگیری: آیا ما برای این تغییر آمادهایم؟
استفاده از هوش مصنوعی برای نوشتن قوانینی که جان ما را لمس میکنند، تغییری بزرگ و البته ترسناک است. یکی از کارکنان وزارت ترابری این اقدام را «به شدت غیرمسئولانه» خوانده است، در حالی که رهبران سیاسی آن را یک جهش بزرگ در کارایی دولت میبینند. حقیقت احتمالاً جایی در این میان نهفته است.
هوش مصنوعی پتانسیل بالایی برای حذف بروکراسیهای خستهکننده دارد، اما وقتی پای ایمنی هواپیماها و قطارها وسط باشد، «خوب به اندازه کافی» شاید واقعاً کافی نباشد. نظر شما چیست؟ آیا حاضرید در دنیایی زندگی کنید که قوانینش را ماشینها نوشتهاند تا فقط کارها سریعتر پیش برود؟ این سوالی است که در ماههای آینده احتمالاً بارها و بارها از خودمان خواهیم پرسید.
منبع:
https://arstechnica.com/tech-policy/2026/01/wildly-irresponsible-dots-use-of-ai-to-draft-safety-rules-sparks-concerns/
مطالب مرتبط