آخرین بروزرسانی در ۱۱ تیر ۱۴۰۵ توسط Dr.Arman
شرکت کلودفلر اخیراً در یکی از اخبار داغ دنیای فناوری، ضربالاجل جدیدی را برای صنعت هوش مصنوعی تعیین کرده است. این اقدام با هدف ایجاد شفافیت بیشتر در نحوه تعامل رباتهای خودکار با محتوای وبسایتها صورت میگیرد.
تفکیک خزندههای هوش مصنوعی از موتورهای جستجوی سنتی
کلودفلر از شرکتهای فناوری خواسته است تا ابزارهای جمعآوری داده خود را از خزندههای جستجو جدا کنند. طبق بیانیه این شرکت، خزندههای هوش مصنوعی باید هویتی متمایز از رباتهای گوگل داشته باشند. این جداسازی به مدیران سایتها اجازه میدهد تا کنترل دقیقتری بر دادههای خود داشته باشند. سیاست جدید کلودفلر از تاریخ ۱۵ سپتامبر ۲۰۲۶ به صورت پیشفرض فعال خواهد شد. در این تاریخ، خزندههای با کاربرد مختلط از دسترسی به صفحات دارای تبلیغات منع میشوند. این تغییرات برای تمامی مشتریان جدید و کاربران طرحهای رایگان اعمال میگردد. البته مالکان سایتها میتوانند در صورت تمایل، این تنظیمات را به صورت دستی تغییر دهند.
چرا تفکیک رباتها اهمیت دارد؟
بسیاری از مدیران سایتها مایلند در نتایج جستجوی گوگل حضور داشته باشند. اما آنها نمیخواهند محتوایشان به رایگان برای آموزش مدلهای زبانی استفاده شود. سیاست جدید کلودفلر این امکان را فراهم میکند که این دو مسیر از هم جدا شوند.
| نوع خزنده | هدف اصلی | وضعیت در سیاست جدید |
|---|---|---|
| خزندههای جستجو | نمایه سازی برای گوگل و بینگ | مجاز (بدون تغییر) |
| خزندههای هوش مصنوعی | آموزش مدلهای LLM و چتباتها | مسدود در صفحات تبلیغاتی |
| خزندههای مختلط | ترکیب جستجو و آموزش هوش مصنوعی | نیاز به تفکیک یا مسدودسازی |
حمایت از حقوق معنوی ناشران در برابر غولهای فناوری
مدیران کلودفلر به طور مستقیم به رفتارهای برخی موتورهای جستجوی بزرگ اشاره کردهاند. آنها معتقدند این شرکتها دسترسی ناعادلانهای به اطلاعات وب دارند. گوگل به کاربران اجازه میدهد از قابلیت Google Extended استفاده کنند. اما همچنان ربات اصلی گوگل برای قابلیتهای هوش مصنوعی مانند AI Overviews فعالیت میکند. این موضوع باعث شده است تا حقوق معنوی ناشران در فضای دیجیتال به چالش کشیده شود. کلودفلر قصد دارد با ابزارهای جدید خود، قدرت چانهزنی ناشران را افزایش دهد. متیو پرینس، مدیرعامل کلودفلر، معتقد است ترافیک غیرانسانی اینترنت از ترافیک انسانی پیشی گرفته است. این یک نقطه عطف تاریخی در تکامل فضای مجازی به شمار میرود. سرعت عمل در وضع قوانین جدید برای پایداری اکوسیستم اینترنت ضروری است. سیاست جدید کلودفلر ابزارهایی برای مشاهده دقیقتر فعالیت رباتها ارائه میدهد. این شفافیت به نفع شرکتهای هوش مصنوعی قانونمند نیز خواهد بود.
مزایای اصلی برای وبسایتهای تجاری
- افزایش امنیت محتوای اختصاصی و جلوگیری از سرقت دادهها.
- مدیریت بهینه پهنای باند و کاهش هزینههای زیرساختی.
- ایجاد فرصتهای تجاری جدید برای فروش محتوا به مدلهای هوش مصنوعی.
- شناسایی دقیقتر خزندههای هوش مصنوعی مخرب و غیرمجاز.
مدلهای نوین برای کسب درآمد از محتوا
کلودفلر در گذشته ابزاری به نام پرداخت به ازای خزش را معرفی کرده بود. اکنون این ابزار به مدل پرداخت به ازای استفاده تغییر ماهیت داده است. این سیستم به ناشران اجازه میدهد زمانی که محتوایشان ارزش خلق میکند، درآمد کسب کنند. کسب درآمد از محتوا دیگر محدود به نمایش تبلیغات سنتی نخواهد بود. مدلهای هوش مصنوعی باید برای بهرهبرداری از دانش ناشران، هزینهای عادلانه بپردازند. طبق دادههای کلودفلر، ۵۰ درصد ترافیک خزندههای هوش مصنوعی بیهوده است. این رباتها مداوم در حال بازخوانی صفحاتی هستند که هیچ تغییری نکردهاند. این رفتار باعث هدررفت منابع پردازشی و پهنای باند ناشران میشود. سیاست جدید کلودفلر به دنبال بهینهسازی این فرایند است. شرکتهای Ceramic.ai و You.com اولین همکاران در اجرای این طرح هستند. ناشران در صورت تمایل میتوانند در این برنامهها مشارکت کنند. آنها به ازای هر بار نمایش محتوای ممتاز خود، مبالغی دریافت خواهند کرد. این مدل میتواند آینده اقتصاد محتوا در عصر هوش مصنوعی را تغییر دهد.
مراحل پیادهسازی مدیریت خزندهها
- ورود به پنل کاربری کلودفلر و بخش تنظیمات ربات.
- بررسی لیست خزندههای هوش مصنوعی شناسایی شده در سایت.
- فعالسازی محدودیت برای رباتهای آموزشی و جمعآوری داده.
- انتخاب مدلهای همکاری برای کسب درآمد از محتوا.
- پایش دورهای گزارشهای ترافیک برای شناسایی الگوهای جدید خزش.
در نهایت، سیاست جدید کلودفلر گامی بزرگ برای برقراری عدالت در اینترنت است. ناشران اکنون ابزارهای قدرتمندی برای حفاظت از داراییهای فکری خود دارند. این تغییرات باعث میشود هوش مصنوعی به شکلی پایدارتر رشد کند. شرکتهای فناوری باید یاد بگیرند که برای منابع ارزشمند وب ارزش قائل شوند. با اجرای این سیاست، اینترنت به فضایی شفافتر برای انسانها و ماشینها تبدیل میشود.
منبع:
https://techcrunch.com/2026/07/01/cloudflares-new-policy-pushes-ai-companies-to-pay-for-publishers-content/

مطالب مرتبط