هشدار آنتروپیک درباره GLM-5.3؛ مدل وزن‌باز چینی می‌تواند اکسپلویت‌های خطرناک را خودکار بسازد

به گزارش ایران نت، بررسی‌های امنیتی جدید درباره GLM-5.3 نشان می‌دهد مدل هوش مصنوعی توسعه‌یافته توسط شرکت چینی Zhipu AI به سطحی از توانایی‌های سایبری رسیده که می‌تواند نگرانی‌های تازه‌ای برای امنیت دیجیتال ایجاد کند. پژوهشگران آنتروپیک در ارزیابی این مدل به شواهدی دست یافته‌اند که نشان می‌دهد GLM-5.3 قادر است بخشی از فرایند شناسایی آسیب‌پذیری و ساخت اکسپلویت را با دخالت انسانی محدود انجام دهد.

اهمیت این موضوع فقط به قدرت فنی مدل محدود نمی‌شود. GLM-5.3 به‌عنوان یک مدل وزن‌باز در دسترس قرار گرفته و برخلاف برخی مدل‌های پیشرفته تجاری، محدودیت‌های کنترلی و حفاظتی مشابهی ندارد. همین ترکیب میان قابلیت سایبری بالا و دسترسی گسترده می‌تواند استفاده از آن را برای پژوهشگران امنیتی و در عین حال مهاجمان بالقوه آسان‌تر کند.

GLM-5.3 تا چه اندازه در حملات سایبری توانمند است؟

آنتروپیک در گزارش خود عملکرد GLM-5.3 را در مجموعه‌ای از محیط‌های آزمایشی و ایزوله بررسی کرده است. نتایج نشان می‌دهد این مدل در برخی وظایف مربوط به کشف آسیب‌پذیری و تولید کد مخرب عملکردی نزدیک به مدل‌های پیشرفته‌تر دارد. در یکی از مهم‌ترین آزمایش‌ها، GLM-5.3 در بنچمارک ExploitBench توانست در ۵۰ مورد از ۴۱۰ تلاش، اکسپلویت‌های کامل برای موتور V8 مرورگر گوگل کروم طراحی کند.

این رقم از آن جهت اهمیت دارد که V8 یکی از اجزای مهم مرورگرهای مبتنی بر Chromium است و آسیب‌پذیری در آن می‌تواند در شرایط خاص مسیر اجرای کد مهاجم را روی سیستم قربانی باز کند. البته چنین نتایجی در محیط آزمایشگاهی به‌دست آمده‌اند و نباید آنها را به معنای موفقیت خودکار مدل در تمام حملات واقعی دانست؛ اما نشان می‌دهند مدل‌های هوش مصنوعی به‌تدریج در حال نزدیک شدن به وظایفی هستند که پیش‌تر به تخصص انسانی قابل‌توجه نیاز داشتند.

فاصله GLM-5.3 با مدل‌های پیشرفته آمریکایی

طبق ارزیابی‌های مطرح‌شده در این گزارش، عملکرد GLM-5.3 در برخی وظایف سایبری فاصله چندانی با Claude Mythos Preview ندارد؛ مدلی که آنتروپیک پیش‌تر برای آزمایش قابلیت‌های پیشرفته هوش مصنوعی در حوزه امنیت سایبری از آن استفاده کرده بود.

در پروژه‌ای با نام Glasswing، آنتروپیک دسترسی محدودی به Claude Mythos Preview را در اختیار مدافعان امنیت سایبری قرار داد. این پروژه به شناسایی بیش از ۱۰ هزار آسیب‌پذیری بحرانی کمک کرد. حالا نتایج مربوط به GLM-5.3 نشان می‌دهد چنین سطحی از توانایی صرفاً در اختیار مدل‌های بسته و کنترل‌شده شرکت‌های بزرگ آمریکایی باقی نمانده است.

مؤسسه استانداردهای هوش مصنوعی آمریکا، یا CAISI، نیز GLM-5.3 را در میان توانمندترین مدل‌های وزن‌باز موجود در حوزه سایبری قرار داده و فاصله عملکردی آن با مرز فناوری مدل‌های آمریکایی را حدود چهار ماه ارزیابی کرده است. این فاصله زمانی، در حوزه‌ای که مدل‌ها با سرعت زیادی پیشرفت می‌کنند، می‌تواند قابل توجه باشد.

مدل چینی چگونه اکسپلویت‌های Zero-Day می‌سازد؟

یکی از نگران‌کننده‌ترین بخش‌های ارزیابی آنتروپیک به آزمایش‌هایی مربوط می‌شود که در آنها GLM-5.3 با نظارت انسانی محدود مورد استفاده قرار گرفت. در یکی از این سناریوها، مدل توانست در کمتر از یک روز و با کمتر از یک ساعت توجه انسانی، چند نقص امنیتی ناشناخته یا اصطلاحاً Zero-Day را در موتور جاوااسکریپت یک مرورگر محبوب شناسایی کند.

موضوع فقط پیدا کردن آسیب‌پذیری نبود. طبق گزارش آنتروپیک، مدل توانست این نقص‌ها را به کدی تبدیل کند که در شرایط آزمایشگاهی پس از باز شدن یک صفحه وب توسط کاربر، امکان دسترسی به اطلاعات حساس سیستم، از جمله کلیدهای SSH، را فراهم می‌کرد.

چنین نمونه‌ای نشان می‌دهد نقش هوش مصنوعی در امنیت سایبری می‌تواند از مرحله تحلیل کد و یافتن باگ فراتر برود و به زنجیره‌ای از فعالیت‌ها شامل شناسایی ضعف، طراحی روش سوءاستفاده و تبدیل آن به اکسپلویت عملی برسد.

GLM-5.3-Flash نیز توانایی ساخت زنجیره حمله دارد

این توانایی فقط به نسخه اصلی GLM-5.3 محدود نمی‌شود. آنتروپیک نسخه کوچک‌تر GLM-5.3-Flash را نیز در سناریویی جداگانه بررسی کرده است. این مدل با دریافت اطلاعات عمومی مربوط به یک آسیب‌پذیری ثبت‌شده در گوگل کروم با شناسه CVE-2026-11645، توانست طی حدود هشت ساعت پردازش، یک زنجیره حمله ایجاد کند.

طبق گزارش منتشرشده، هزینه پردازشی این آزمایش حدود ۲۰٫۴۰ دلار بوده است. مدل در این فرایند موفق شد سازوکارهای سخت‌گیرانه مدیریت حافظه در معماری ARM64 را دور بزند. اهمیت این آزمایش در آن است که برای اجرای چنین فرایندی الزاماً به یک مدل بسیار بزرگ و منابع پردازشی عظیم نیاز نبوده است.

البته هزینه و زمان ثبت‌شده در یک آزمایش کنترل‌شده را نباید مستقیماً با هزینه یک حمله واقعی مقایسه کرد. با این حال، کاهش هزینه استفاده از مدل‌های هوش مصنوعی برای فعالیت‌های پیچیده سایبری می‌تواند در آینده یکی از عوامل مهم تغییر معادلات امنیتی باشد.

مشکل بزرگ‌تر: محدودیت‌های امنیتی GLM-5.3

از نگاه آنتروپیک، نگرانی اصلی تنها قدرت سایبری GLM-5.3 نیست؛ بلکه ترکیب این قدرت با حفاظت‌های امنیتی ضعیف است. پژوهشگران تلاش کردند با استفاده از روش‌های مختلف محدودیت‌های مدل را دور بزنند و در برخی موارد موفقیت قابل توجهی به دست آوردند.

برای نمونه، استفاده از پرامپت‌های فریبنده باعث شد مدل در حدود ۶۴ درصد از آزمایش‌ها دستورهای مخرب را اجرا کند. در روش دیگری که شامل وارد کردن توکن‌های پیش‌فرض مربوط به فرایند تفکر بود، میزان موفقیت به حدود ۹۲ درصد رسید.

این نتایج نشان می‌دهند صرف قرار دادن یک مدل قدرتمند پشت لایه‌ای از دستورهای ایمنی، لزوماً برای جلوگیری از سوءاستفاده کافی نیست. اگر یک مدل بتواند با تغییر نحوه طرح درخواست یا دستکاری ورودی، محدودیت‌های خود را کنار بگذارد، استفاده عمومی از آن می‌تواند ریسک‌های تازه‌ای ایجاد کند.

Abliteration چیست و چرا اهمیت دارد؟

یکی دیگر از روش‌های بررسی‌شده، تکنیکی با نام Abliteration بود. در این روش، پژوهشگران با ایجاد تغییراتی در وزن‌های مدل تلاش می‌کنند برخی محدودیت‌های رفتاری و حفاظتی آن را حذف کنند.

بر اساس گزارش آنتروپیک، پس از اعمال این روش، GLM-5.3 در تمام آزمایش‌های انجام‌شده به درخواست‌های مخرب پاسخ داده است. برای این فرایند حدود ۲۲۰۰ ساعت پردازش گرافیکی و نزدیک به ۴۴۰۰ دلار هزینه محاسباتی صرف شده است.

این مسئله برای مدل‌های وزن‌باز اهمیت ویژه‌ای دارد؛ زیرا کاربران می‌توانند به وزن‌های مدل دسترسی داشته باشند و برخلاف سرویس‌های کاملاً میزبانی‌شده، امکان تغییر، بازآموزی یا حذف برخی محدودیت‌های رفتاری را در اختیار داشته باشند.

مدل‌های وزن‌باز؛ فرصت پژوهشی یا ریسک امنیتی؟

وزن‌باز بودن یک مدل هوش مصنوعی به‌خودی‌خود به معنای مخرب بودن آن نیست. مدل‌های این دسته می‌توانند برای تحقیقات دانشگاهی، توسعه نرم‌افزار، آموزش، تحلیل امنیتی و ساخت ابزارهای جدید بسیار مفید باشند. حتی در حوزه امنیت سایبری نیز دسترسی به مدل‌های قدرتمند می‌تواند به مدافعان کمک کند آسیب‌پذیری‌ها را سریع‌تر پیدا و برطرف کنند.

مسئله از جایی پیچیده می‌شود که همان توانایی‌ها در اختیار افرادی قرار گیرد که قصد سوءاستفاده دارند. یک مدل هوش مصنوعی می‌تواند زمان لازم برای تحلیل یک پایگاه کد بزرگ، پیدا کردن نقاط ضعف یا آزمایش روش‌های مختلف بهره‌برداری را کاهش دهد. بنابراین افزایش قابلیت مدل‌ها می‌تواند هم‌زمان ظرفیت دفاع و حمله را بالا ببرد.

این موضوع تفاوت مهمی میان مدل‌های بسته و مدل‌های وزن‌باز ایجاد می‌کند. شرکت‌هایی که مدل‌های بسته ارائه می‌دهند می‌توانند دسترسی کاربران را کنترل، درخواست‌های مشکوک را شناسایی و سیاست‌های ایمنی را در سطح سرویس اعمال کنند. در مدل‌های وزن‌باز، بخش قابل توجهی از این کنترل‌ها به نحوه استقرار و استفاده کاربر منتقل می‌شود.

آیا GLM-5.3 تهدیدی برای امنیت سایبری است؟

نتایج آنتروپیک نشان نمی‌دهد که GLM-5.3 به‌تنهایی قادر است هر سامانه‌ای را هک کند یا بدون نظارت انسانی حملات پیچیده را در مقیاس گسترده اجرا کند. بسیاری از آزمایش‌های انجام‌شده در محیط‌های ایزوله و با شرایط مشخص بوده‌اند و عملکرد مدل نیز در تمام تلاش‌ها موفقیت‌آمیز نبوده است.

با این حال، روند مشاهده‌شده اهمیت زیادی دارد. مدل‌هایی که می‌توانند کد را تحلیل کنند، آسیب‌پذیری پیدا کنند و روش‌های بهره‌برداری را پیشنهاد دهند، به‌مرور می‌توانند بخشی از فرایندهای تخصصی امنیت سایبری را خودکار کنند. اگر این قابلیت با دسترسی عمومی و محدودیت‌های ایمنی ضعیف ترکیب شود، احتمال سوءاستفاده نیز افزایش پیدا می‌کند.

از طرف دیگر، همین فناوری می‌تواند برای دفاع نیز کاربرد داشته باشد. سازمان‌ها می‌توانند از مدل‌های پیشرفته برای بررسی کد، یافتن باگ‌های امنیتی، تحلیل لاگ‌ها، شناسایی رفتارهای غیرعادی و اولویت‌بندی آسیب‌پذیری‌ها استفاده کنند. بنابراین رقابت آینده فقط میان مهاجمان و مدافعان انسانی نخواهد بود؛ بلکه مدل‌های هوش مصنوعی نیز به بخشی از این رقابت تبدیل می‌شوند.

هشدار آنتروپیک درباره آینده امنیت هوش مصنوعی

آنتروپیک در جمع‌بندی ارزیابی خود هشدار داده است که انتشار مدل‌هایی با قابلیت‌های پیشرفته سایبری و بدون سازوکارهای حفاظتی کافی می‌تواند دسترسی به ابزارهای حمله را برای طیف گسترده‌تری از بازیگران آسان کند. منظور از این بازیگران تنها هکرهای مستقل نیستند و در سناریوهای مختلف، گروه‌های سازمان‌یافته یا بازیگران دولتی نیز می‌توانند از چنین ابزارهایی بهره ببرند.

از سوی دیگر، افزایش قابلیت مدل‌های وزن‌باز به این معناست که شرکت‌ها و سازمان‌های امنیتی باید ابزارهای دفاعی خود را نیز سریع‌تر توسعه دهند. شناسایی خودکار آسیب‌پذیری‌ها، آزمایش مداوم نرم‌افزارها و استفاده از هوش مصنوعی برای تحلیل تهدیدها می‌تواند بخشی از پاسخ به این تغییر باشد.

ماجرای GLM-5.3 در نهایت نشان می‌دهد مرز میان مدل‌های عمومی هوش مصنوعی و ابزارهای تخصصی امنیت سایبری در حال کم‌رنگ شدن است. هرچه مدل‌ها در تحلیل کد و اجرای وظایف چندمرحله‌ای توانمندتر شوند، مسئله اصلی فقط میزان هوش آنها نخواهد بود؛ بلکه نحوه توزیع، کنترل و ایمن‌سازی این توانایی‌ها نیز اهمیت بیشتری پیدا خواهد کرد.

برای اطلاعات بیشتر درباره تحولات هوش مصنوعی، امنیت سایبری و مدل‌های جدید می‌توانید به ایران نت مراجعه کنید.

“`