در سالهای اخیر، موضوع امنیت هوش مصنوعی (AI Security / Artificial Intelligence Security) به یکی از مهمترین چالشهای دنیای فناوری تبدیل شده است. با گسترش استفاده از مدلهای یادگیری عمیق در حوزههایی مانند خودروهای خودران، رباتیک و تحلیل دادههای سهبعدی، نیاز به روشهای ایمنتر و قابلاعتمادتر بیش از پیش احساس میشود. در همین راستا، پژوهش تازهای از دانشگاه تهران با همکاری دانشگاههای بینالمللی، رویکردی نوین و کمهزینه برای افزایش امنیت سامانههای هوش مصنوعی ارائه کرده است که میتواند مسیر توسعه این فناوری را تغییر دهد.
دستاورد مهم پژوهشگران ایرانی و بینالمللی در امنیت هوش مصنوعی
این پژوهش با مشارکت حانیه نادری عضو هیئت علمی دانشکده فناوریهای میانرشتهای دانشگاه تهران، به همراه پژوهشگرانی از دانشگاه نورثایسترن و دانشگاه سایمون فریزر کانادا و همچنین دانشگاه صنعتی شریف انجام شده است. نتیجه این همکاری بینالمللی، مقالهای علمی با عنوان «Toward Leveraging Intrinsic Point Cloud Features in 3D Adversarial Attacks» است که در مجله معتبر PLOS ONE منتشر شده است.
هدف اصلی این تحقیق، بررسی آسیبپذیری مدلهای هوش مصنوعی در برابر حملات موسوم به حملات خصمانه (Adversarial Attacks) در دادههای سهبعدی است. این نوع حملات زمانی رخ میدهد که ورودیهای دستکاریشده باعث میشوند مدلهای هوش مصنوعی تصمیمات اشتباه بگیرند؛ مسئلهای که در کاربردهای حساس مانند خودروهای خودران یا سیستمهای پزشکی میتواند پیامدهای جدی داشته باشد.
تمرکز بر ویژگیهای ذاتی دادههای سهبعدی
نوآوری اصلی این پژوهش در تمرکز بر ویژگیهای ذاتی دادههای سهبعدی (Point Cloud Features) است. برخلاف بسیاری از روشهای سنتی که تنها بر بهبود معماری مدلهای یادگیری عمیق تمرکز دارند، این تحقیق نشان میدهد که ریشه بسیاری از آسیبپذیریها در خود دادهها نهفته است.
چرا دادههای سهبعدی اهمیت دارند؟
دادههای سهبعدی در بسیاری از فناوریهای مدرن استفاده میشوند؛ از نقشهبرداری محیطی گرفته تا سیستمهای بینایی ماشین در رباتها و خودروهای هوشمند. این دادهها معمولاً به شکل نقاط (Point Clouds) نمایش داده میشوند و شامل اطلاعات هندسی دقیق از محیط هستند. پژوهشگران نشان دادهاند که برخی ویژگیهای هندسی این دادهها میتوانند نقش کلیدی در رفتار مدلهای هوش مصنوعی داشته باشند.
روش نوین و کمهزینه برای افزایش امنیت AI
یکی از مهمترین دستاوردهای این پژوهش، ارائه یک روش کمهزینه از نظر محاسباتی برای تحلیل و افزایش امنیت سیستمهای هوش مصنوعی است. این روش به جای استفاده از پردازشهای پیچیده و پرهزینه، بر استخراج ویژگیهای بنیادی دادهها تمرکز دارد.
نتایج نشان میدهد که با تحلیل دقیق این ویژگیها میتوان نقاط حساس در دادهها را شناسایی کرد و رفتار مدلهای هوش مصنوعی را بهتر پیشبینی نمود. این موضوع نهتنها باعث افزایش امنیت سیستمها میشود، بلکه دقت عملکرد آنها را نیز بهبود میبخشد.
کاربردهای گسترده در فناوریهای آینده
یافتههای این تحقیق تنها محدود به حوزه نظری نیست و میتواند در صنایع مختلف مورد استفاده قرار گیرد. از جمله مهمترین کاربردهای آن میتوان به موارد زیر اشاره کرد:
- خودروهای خودران و سیستمهای رانندگی هوشمند
- رباتهای صنعتی و خدماتی
- سامانههای بینایی ماشین (Computer Vision)
- تحلیل دادههای سهبعدی در پزشکی و مهندسی
در همه این حوزهها، امنیت و دقت تصمیمگیری سیستمهای هوش مصنوعی اهمیت حیاتی دارد. بنابراین، روش پیشنهادی پژوهشگران میتواند نقش مهمی در کاهش خطاها و افزایش اعتمادپذیری این سیستمها ایفا کند.
جمعبندی: گامی مهم به سمت هوش مصنوعی قابلاعتمادتر
این پژوهش نشان میدهد که آینده امنیت در هوش مصنوعی تنها به پیچیدهتر شدن مدلها وابسته نیست، بلکه درک عمیقتر از دادهها نیز نقش اساسی دارد. با تمرکز بر ویژگیهای ذاتی دادههای سهبعدی، میتوان سامانههایی طراحی کرد که نهتنها دقیقتر، بلکه ایمنتر و قابلتوضیحتر باشند.
این دستاورد علمی از دانشگاه تهران میتواند نقطه شروعی برای توسعه نسل جدیدی از سیستمهای هوش مصنوعی باشد که در برابر حملات سایبری مقاومتر بوده و در کاربردهای حساس عملکرد قابل اعتمادتری ارائه میدهند.
