مراقب «اسب تروآ» در عصر هوش مصنوعی باشید

در عصر هوش مصنوعی، امنیت ابزارهای توسعه به‌طور مستقیم با حاکمیت دیجیتال کشورها ارتباط دارد. ماجرای «کلود کد» به‌عنوان یک «اسب تروآ» در عصر هوش مصنوعی، بار دیگر این هشدار را مطرح کرده است که بدون برخورداری از توانمندی‌های مستقل و قابل کنترل در سراسر زنجیره تأمین سخت‌افزار و نرم‌افزار، امنیت واقعی امکان‌پذیر نخواهد بود.

بانک اطلاعات ملی آسیب‌پذیری‌های چین (NVDB)، وابسته به وزارت صنعت و فناوری اطلاعات این کشور، اخیراً با انتشار بیانیه‌ای نسبت به وجود آسیب‌پذیری‌های امنیتی ناشی از «درِ پشتی» در ابزار برنامه‌نویسی هوش مصنوعی «کلود کد» که توسط شرکت آمریکایی آنتروپیک توسعه یافته، هشدار داد. بررسی‌ها نشان می‌دهد چند نسخه از این ابزار که بین ماه‌های آوریل تا ژوئن منتشر شده‌اند، بدون اطلاع و رضایت کاربران، اطلاعات حساس آنها را به سرورهای راه دور منتقل می‌کرده‌اند. وزارت صنعت و فناوری اطلاعات چین از سازمان‌ها و کاربران خواسته است هرچه سریع‌تر این ابزار را بررسی، حذف یا به نسخه‌ای امن ارتقا دهند. این اقدام علاوه بر هشدار به کاربران داخلی، زنگ خطری برای امنیت جهانی هوش مصنوعی نیز به شمار می‌رود.

شواهد موجود نشان می‌دهد این «درِ پشتی» به‌صورت عمدی طراحی و تعبیه شده است. روزنامه واشنگتن‌پست نیز روز دوشنبه گزارش داد که شرکت آنتروپیک در ماه مارس، بی‌سروصدا قابلیتی را در نرم‌افزار «کلود کد» فعال کرده که امکان جمع‌آوری اطلاعات کاربران مستقر در چین را فراهم می‌کرده است. این موضوع زمانی آشکار شد که یکی از توسعه‌دهندگان، پس از بررسی دقیق کدها، متوجه وجود یک «سیستم دیده‌بان» شد که می‌توانست اطلاعاتی مانند موقعیت مکانی و شناسه‌های کاربران را بدون اطلاع آنها به سرورهای راه دور ارسال کند. به بیان ساده، این وضعیت مانند آن است که فردی برای تعمیر وارد خانه شود اما در غیاب صاحب‌خانه، وسایل شخصی او را بررسی کرده و اطلاعاتش را مخفیانه در اختیار دیگران قرار دهد.

این موضوع این پرسش را مطرح می‌کند که «اسب تروآ» واقعی در دنیای دیجیتال چه کسی است؟ برخی سیاستمداران غربی بارها بدون ارائه مدرک، مدل‌های هوش مصنوعی چین را به خطر امنیتی و نشت داده‌ها متهم کرده و آنها را «اسب تروآ» نامیده‌اند. اما پس از افشای این ماجرا، یکی از اعضای تیم توسعه «کلود کد» مدعی شد این قابلیت تنها برای جلوگیری از سوءاستفاده از حساب‌های کاربری و شناسایی احتمال «تقطیر مدل» طراحی شده است. با این حال، این توضیح قانع‌کننده به نظر نمی‌رسد. اگر هدف صرفاً افزایش امنیت بود، چرا کاربران از وجود چنین قابلیتی مطلع نشدند و چرا این بخش از کد به‌صورت مخفی و مبهم پیاده‌سازی شده بود؟ این رفتار، از نگاه منتقدان، نمونه‌ای از استانداردهای دوگانه است.

در دو سال گذشته، هوش مصنوعی از چت‌بات‌های ساده مبتنی بر مدل‌های زبانی بزرگ فراتر رفته و به عامل‌های هوش مصنوعی تبدیل شده است. این عامل‌ها اکنون می‌توانند به‌طور مستقل برنامه‌ریزی کنند، از ابزارهای مختلف استفاده کنند و وظایف پیچیده را انجام دهند. به همین دلیل، خطاهای آنها دیگر تنها به تولید پاسخ‌های نادرست محدود نمی‌شود و ممکن است به حذف یک پروژه نرم‌افزاری یا حتی انتقال موجودی یک حساب بانکی منجر شود.

برآوردها نشان می‌دهد تا پایان سال ۲۰۲۶ حدود ۴۰ درصد از نرم‌افزارهای سازمانی جهان به عامل‌های هوش مصنوعی مجهز خواهند شد. این موضوع نشان می‌دهد ابزارهای توسعه هوش مصنوعی به بخشی حیاتی از زنجیره تأمین تبدیل شده‌اند. در چنین شرایطی، وجود «درِ پشتی» در این ابزارها می‌تواند تهدیدی هم‌سطح آسیب‌پذیری‌های سخت‌افزاری باشد. هشدار اخیر وزارت صنعت و فناوری اطلاعات چین نیز بر اهمیت امنیت زنجیره تأمین در عصر هوش مصنوعی تأکید دارد.

چین از طریق سیاست‌گذاری و اقدامات اجرایی، در حال ایجاد چارچوبی جامع برای امنیت زنجیره صنعت هوش مصنوعی است. این کشور تلاش می‌کند کنترل بیشتری بر ابزارهای توسعه، مدل‌های پایه و زیرساخت‌های محاسباتی داشته باشد. حتی پیش از ماجرای «کلود کد» نیز وزارت صنعت و فناوری اطلاعات و دیگر نهادهای مسئول بارها نسبت به خطرات امنیتی ابزارهای هوش مصنوعی هشدار داده بودند.

برای نمونه، نهادهای نظارتی چین در ماه مارس درباره عامل هوش مصنوعی OpenClaw هشدار امنیتی صادر کردند. سپس در ماه مه، سه نهاد دولتی دستورالعمل‌هایی را برای توسعه استاندارد و ایمن عامل‌های هوش مصنوعی منتشر کردند که در آن بر تقویت تدابیر حفاظتی در تمام مراحل چرخه عمر این سامانه‌ها تأکید شده بود.

به اعتقاد چین، این اقدامات تنها به سود این کشور نیست، بلکه می‌تواند به جامعه جهانی نیز کمک کند. توانمندی مدل‌های متن‌باز چینی همچنان در حال افزایش است و پس از موفقیت «دیپ‌سیک»، مدل‌های متن‌باز چین توجه بیشتری در سطح بین‌المللی جلب کرده‌اند.

به‌تازگی نیز برخی تحلیلگران خارجی، مدل GLM-5.2 شرکت «ژیپو ای‌آی» را دومین «لحظه دیپ‌سیک» توصیف کرده‌اند و گفته‌اند عملکرد آن با مدل Opus 4.8 شرکت آنتروپیک قابل مقایسه است، در حالی که هزینه آن تنها حدود یک‌پنجم است. از این رو، هوش مصنوعی متن‌باز چین برای بسیاری از کشورها، به‌ویژه کشورهای جنوب جهانی، به گزینه‌ای جذاب و در برخی موارد ضروری تبدیل شده و امکان بهره‌مندی عادلانه‌تر از دستاوردهای هوش مصنوعی را فراهم می‌کند.

هوش مصنوعی یک فناوری دووجهی است؛ از یک سو عرصه رقابت فناوری و از سوی دیگر بخشی از امنیت ملی کشورها محسوب می‌شود. در چنین حوزه راهبردی، هیچ کشوری نباید توسعه خود را به دیگران وابسته کند.

ماجرای «کلود کد» بار دیگر این واقعیت را یادآوری کرد که بدون برخورداری از توانمندی مستقل و قابل کنترل در سراسر زنجیره تأمین سخت‌افزار و نرم‌افزار، دستیابی به امنیت واقعی ممکن نخواهد بود.