به گزارش ایران نت، یک پژوهش درباره رفتار چت‌بات‌های هوش مصنوعی نشان می‌دهد که این ابزارها ممکن است از طریق نحوه انتخاب اطلاعات، چارچوب‌بندی موضوعات و شیوه ارائه پاسخ‌ها بر برداشت سیاسی کاربران تأثیر بگذارند. این تأثیر لزوماً به توصیه مستقیم برای حمایت از یک نامزد یا حزب محدود نمی‌شود و می‌تواند در پاسخ به پرسش‌های عمومی درباره مسائل انتخاباتی نیز دیده شود.
با افزایش استفاده از هوش مصنوعی برای جست‌وجوی اطلاعات، تحلیل اخبار و مقایسه دیدگاه‌های سیاسی، بررسی بی‌طرفی این سامانه‌ها اهمیت بیشتری پیدا کرده است. چت‌بات‌ها معمولاً پاسخ‌هایی منسجم و مطمئن ارائه می‌کنند، اما لحن قاطع یا ساختار منظم یک پاسخ به‌تنهایی تضمین نمی‌کند که اطلاعات ارائه‌شده کامل، متوازن یا عاری از سوگیری باشد.
این موضوع زمانی اهمیت بیشتری پیدا می‌کند که کاربران برای شناخت نامزدها، بررسی مسائل عمومی یا درک سیاست‌های احزاب به مدل‌های هوش مصنوعی مراجعه می‌کنند. در چنین شرایطی، حتی تفاوت‌های ظریف در انتخاب واژگان، ترتیب اطلاعات و منابع مورد استفاده می‌تواند بر نحوه درک مخاطب از یک موضوع اثر بگذارد.
سوگیری سیاسی در هوش مصنوعی چگونه شکل می‌گیرد؟
سوگیری سیاسی در چت‌بات‌ها لزوماً به این معنا نیست که یک سامانه به‌صراحت از حزب یا نامزد مشخصی حمایت می‌کند. این سوگیری ممکن است در فرایند انتخاب اطلاعات، نحوه خلاصه‌سازی رویدادها یا میزان توجه به دیدگاه‌های متفاوت ظاهر شود.
برای مثال، هنگامی که کاربری درباره یک مسئله انتخاباتی سؤال می‌کند، مدل ممکن است برخی جنبه‌های موضوع را با جزئیات بیشتری توضیح دهد و به جنبه‌های دیگر کمتر بپردازد. همچنین ممکن است یک سیاست را با واژگانی مثبت‌تر یا منفی‌تر توصیف کند، بدون آنکه مستقیماً از مخاطب بخواهد از تصمیم سیاسی مشخصی حمایت کند.
منابع مورد استناد نیز نقش مهمی دارند. اگر سامانه اطلاعات خود را عمدتاً از منابعی دریافت کند که دیدگاه‌های مشابهی دارند، احتمال دارد پاسخ نهایی نیز بازتاب‌دهنده همان چارچوب‌ها باشد. این مسئله می‌تواند حتی بدون وجود قصد آگاهانه برای تأثیرگذاری سیاسی رخ دهد.
چرا پرسش‌های عمومی انتخاباتی نیز اهمیت دارند؟
تاپان پاریک، که در گزارش مربوط به این پژوهش به‌عنوان یکی از افراد مرتبط با بررسی سوگیری سیاسی چت‌بات‌ها مطرح شده است، هشدار می‌دهد که اثرگذاری احتمالی این ابزارها تنها به توصیه مستقیم درباره رأی دادن محدود نمی‌شود. به گفته او، سوگیری می‌تواند در پاسخ به پرسش‌هایی درباره اهمیت مسائل انتخاباتی یا عملکرد نامزدها در موضوعات مختلف نیز ظاهر شود.
برای نمونه، کاربری ممکن است از یک چت‌بات بپرسد کدام مسائل باید در انتخابات در اولویت قرار بگیرند یا کدام نامزد درباره اقتصاد، مهاجرت یا سیاست خارجی عملکرد بهتری داشته است. پاسخ چنین پرسش‌هایی به نحوه تعریف معیارها، انتخاب داده‌ها و وزن دادن به شواهد مختلف وابسته است.
اگر مدل برخی معیارها را مهم‌تر از معیارهای دیگر در نظر بگیرد، ممکن است تصویری خاص از مسئله ارائه کند. همچنین، اگر اطلاعات مربوط به یک نامزد با جزئیات بیشتر و اطلاعات مربوط به نامزد دیگر به‌صورت خلاصه مطرح شود، مخاطب ممکن است بدون توجه به این تفاوت در نحوه ارائه، نتیجه‌گیری متفاوتی داشته باشد.
بنابراین، ارزیابی بی‌طرفی یک چت‌بات نیازمند بررسی مجموعه‌ای از پاسخ‌ها در شرایط مختلف است. یک پاسخ منفرد نمی‌تواند به‌تنهایی نشان دهد که مدل به‌طور سیستماتیک از یک جریان سیاسی حمایت می‌کند یا اینکه نتیجه مشاهده‌شده ناشی از نوع پرسش، منابع اطلاعاتی یا محدودیت‌های داده‌ها بوده است.
نقش انتخاب منابع و نحوه تحلیل اطلاعات
یکی از نکات مهم در بحث سوگیری هوش مصنوعی، تفاوت میان اطلاعات موجود و اطلاعاتی است که در پاسخ نهایی به کاربر نمایش داده می‌شوند. یک مدل ممکن است به حجم زیادی از داده‌ها دسترسی داشته باشد، اما پاسخ خود را بر اساس بخشی از آنها تنظیم کند. در نتیجه، انتخاب اطلاعات مرتبط و کنار گذاشتن اطلاعات دیگر می‌تواند بر برداشت مخاطب تأثیر بگذارد.
چارچوب‌بندی نیز عامل دیگری است که باید مورد توجه قرار گیرد. یک موضوع سیاسی را می‌توان از زاویه اقتصادی، اجتماعی، حقوقی یا امنیتی بررسی کرد. اگر پاسخ چت‌بات فقط بر یکی از این ابعاد تمرکز کند، ممکن است تصویر ناقصی از موضوع ارائه شود؛ حتی اگر اطلاعات مطرح‌شده به‌خودی‌خود نادرست نباشند.
ترتیب ارائه استدلال‌ها نیز اهمیت دارد. قرار دادن یک ادعا در ابتدای پاسخ، تأکید بیشتر بر برخی پیامدها یا استفاده از واژه‌هایی با بار ارزشی متفاوت می‌تواند بر برداشت خواننده اثر بگذارد. به همین دلیل، بررسی سوگیری صرفاً با شمارش پاسخ‌های مثبت و منفی یا جست‌وجوی حمایت مستقیم از یک نامزد امکان‌پذیر نیست.
برای ارزیابی دقیق‌تر، لازم است پرسش‌های یکسان در شرایط مشابه مطرح شوند و پاسخ‌ها بر اساس معیارهای مشخصی مانند دقت اطلاعات، تنوع منابع، توازن دیدگاه‌ها و نحوه بیان ادعاهای مورد اختلاف بررسی شوند. همچنین باید میان خطای factual، کمبود اطلاعات و سوگیری در نحوه ارائه مطالب تفاوت قائل شد.
مواضع سیاسی ایلان ماسک و سم آلتمن در کانون توجه
انتشار پژوهش‌های مربوط به سوگیری سیاسی چت‌بات‌ها بار دیگر توجه‌ها را به فعالیت‌های سیاسی مدیران شرکت‌های هوش مصنوعی جلب کرده است. ایلان ماسک، مدیرعامل تسلا و از چهره‌های مرتبط با شرکت هوش مصنوعی xAI، و سم آلتمن، مدیرعامل OpenAI، از جمله افرادی هستند که مواضع و فعالیت‌های سیاسی آنها در بحث‌های عمومی درباره صنعت فناوری مطرح شده است.
بر اساس گزارش مورد اشاره، ماسک بیش از ۴۴۵ میلیون دلار برای حمایت از نامزدهای جمهوری‌خواه در انتخابات میان‌دوره‌ای هزینه کرده است. در همان گزارش، این مبلغ با میزان حمایت مالی او در انتخابات سال ۲۰۲۴ از دونالد ترامپ و حزب جمهوری‌خواه مقایسه شده است. با این حال، برای ارزیابی دقیق این ارقام باید دوره زمانی، نوع کمک‌های مالی و اسناد انتخاباتی مربوط به آنها به‌طور مستقل بررسی شوند.
سم آلتمن نیز در سال‌های گذشته از برخی نامزدهای دموکرات حمایت مالی کرده، اما در دوره‌های اخیر حمایت از برخی جمهوری‌خواهان نیز در کارنامه او مطرح شده است. طبق گزارش یادشده، آلتمن اعلام کرده است که در انتخابات سال ۲۰۲۶ کمک مالی انتخاباتی نخواهد کرد.
این سوابق سیاسی به‌خودی‌خود نشان نمی‌دهند که محصولات شرکت‌های مرتبط با این افراد الزاماً از یک گرایش سیاسی مشخص پیروی می‌کنند. برای اثبات چنین ارتباطی باید شواهد مستقیمی درباره نحوه طراحی مدل‌ها، سیاست‌های محتوایی، داده‌های آموزشی و رفتار سامانه‌ها در آزمون‌های کنترل‌شده وجود داشته باشد.
آیا گرایش سیاسی مدیران مستقیماً بر پاسخ چت‌بات‌ها اثر می‌گذارد؟
یکی از پرسش‌های مهم در این زمینه، ارتباط احتمالی میان دیدگاه‌های مدیران شرکت‌های فناوری و خروجی محصولات آنها است. مدیران ارشد ممکن است در تعیین راهبرد محصول، سیاست‌های انتشار و اولویت‌های سازمانی نقش داشته باشند، اما از این موضوع نمی‌توان نتیجه گرفت که هر پاسخ تولیدشده توسط مدل بازتاب مستقیم مواضع سیاسی مدیرعامل آن شرکت است.
رفتار یک مدل هوش مصنوعی تحت تأثیر عوامل مختلفی قرار دارد؛ از جمله داده‌های آموزشی، روش تنظیم مدل، دستورالعمل‌های سیستمی، ابزارهای جست‌وجو، منابع بازیابی‌شده و نحوه صورت‌بندی پرسش کاربر. در برخی موارد، پاسخ‌ها ممکن است تحت تأثیر اطلاعات ناقص یا متناقض قرار بگیرند و در موارد دیگر، شیوه ارزیابی یا محدودیت‌های طراحی سامانه در نتیجه نهایی نقش داشته باشند.
به همین دلیل، پژوهشی که سوگیری احتمالی در پاسخ‌های چت‌بات‌ها را شناسایی می‌کند، لزوماً علت آن را نیز مشخص نمی‌کند. برای نسبت دادن یک نتیجه به دیدگاه‌های سیاسی مدیران، شواهد بیشتری لازم است؛ شواهدی که بتوانند ارتباط میان تصمیم‌های مدیریتی و رفتار قابل مشاهده مدل را نشان دهند.
چگونه پاسخ‌های سیاسی هوش مصنوعی را ارزیابی کنیم؟
کاربران برای استفاده آگاهانه‌تر از چت‌بات‌ها می‌توانند چند روش ساده را به کار بگیرند. این روش‌ها به معنای بی‌اعتمادی کامل به هوش مصنوعی نیستند، بلکه کمک می‌کنند پاسخ‌ها به‌عنوان نقطه شروع بررسی در نظر گرفته شوند، نه جایگزینی برای ارزیابی مستقل اطلاعات.
- درخواست ارائه دیدگاه‌های مختلف: از مدل بخواهید استدلال‌های موافق و مخالف یک سیاست را جداگانه توضیح دهد و شواهد هر طرف را مشخص کند.
- بررسی منابع: اگر پاسخ شامل ادعاهای سیاسی یا آماری است، منبع اصلی اطلاعات و تاریخ انتشار آن را بررسی کنید.
- تفکیک واقعیت از تحلیل: از چت‌بات بخواهید مشخص کند کدام بخش پاسخ مبتنی بر داده‌های قابل بررسی و کدام بخش تفسیر یا تحلیل است.
- پرهیز از اتکا به یک پاسخ: برای موضوعات مهم، اطلاعات را با چند منبع مستقل و معتبر مقایسه کنید.
- توجه به واژگان: بررسی کنید که آیا پاسخ از توصیف‌های احساسی یا ارزش‌داورانه استفاده می‌کند و آیا همین معیارها درباره دیدگاه‌های مختلف به‌طور یکسان اعمال شده‌اند.
- پرسیدن پرسش‌های دقیق‌تر: به‌جای درخواست یک نتیجه کلی درباره عملکرد نامزدها، معیارهای مورد نظر خود را مشخص کنید؛ برای مثال، سوابق قانون‌گذاری، برنامه اقتصادی یا نتایج قابل اندازه‌گیری.
این اقدامات می‌توانند به شناسایی پاسخ‌های ناقص یا یک‌جانبه کمک کنند، اما تضمین نمی‌کنند که همه سوگیری‌های احتمالی آشکار شوند. همچنین، مقایسه پاسخ چند چت‌بات به‌تنهایی برای تعیین صحت اطلاعات کافی نیست؛ زیرا چند مدل ممکن است از منابع مشابه استفاده کنند یا خطاهای یکسانی داشته باشند.
چرا بررسی بی‌طرفی چت‌بات‌ها اهمیت بیشتری پیدا می‌کند؟
چت‌بات‌های هوش مصنوعی به‌تدریج به یکی از ابزارهای مورد استفاده برای دریافت خلاصه اخبار، توضیح مسائل پیچیده و مقایسه اطلاعات تبدیل شده‌اند. این تغییر می‌تواند دسترسی به اطلاعات را ساده‌تر کند، اما هم‌زمان پرسش‌هایی درباره شفافیت، مسئولیت‌پذیری و کیفیت اطلاعات تولیدشده به وجود می‌آورد.
اگر کاربران پاسخ‌های هوش مصنوعی را بدون بررسی مستقل بپذیرند، احتمال دارد تفاوت میان داده‌های تأییدشده، تحلیل‌های احتمالی و ادعاهای مورد اختلاف را نادیده بگیرند. در موضوعات سیاسی، این مسئله می‌تواند بر درک مسائل عمومی اثر بگذارد؛ به‌ویژه زمانی که پاسخ مدل به‌عنوان خلاصه‌ای جامع از یک بحث پیچیده تلقی شود.
در مقابل، ارزیابی شفاف و تکرارپذیر مدل‌ها می‌تواند به شناخت بهتر نقاط قوت و محدودیت‌های آنها کمک کند. انتشار روش پژوهش، ارائه نمونه پاسخ‌ها، بررسی منابع و تکرار آزمایش‌ها توسط گروه‌های مستقل از جمله اقداماتی هستند که می‌توانند کیفیت ارزیابی سوگیری را افزایش دهند.
جمع‌بندی؛ سوگیری احتمالی را باید با شواهد سنجید
پژوهش‌های مربوط به سوگیری سیاسی چت‌بات‌ها نشان می‌دهند که بررسی بی‌طرفی هوش مصنوعی به چیزی فراتر از جست‌وجوی حمایت آشکار از یک حزب یا نامزد نیاز دارد. انتخاب اطلاعات، چارچوب‌بندی موضوعات، منابع مورد استناد و شیوه بیان پاسخ‌ها همگی می‌توانند بر برداشت کاربران تأثیر بگذارند.
در عین حال، سوابق سیاسی مدیران شرکت‌های فناوری به‌تنهایی برای اثبات جهت‌گیری سیاسی محصولات آنها کافی نیست. ارزیابی چنین ادعایی به روش‌شناسی روشن، داده‌های قابل بررسی و آزمون‌های مستقل نیاز دارد. با گسترش استفاده از هوش مصنوعی در دریافت اطلاعات عمومی، توجه به این محدودیت‌ها می‌تواند به کاربران کمک کند تا پاسخ‌ها را دقیق‌تر ارزیابی کنند و تصمیم‌های خود را بر پایه مجموعه‌ای گسترده‌تر از شواهد بگیرند.
برای دنبال کردن اخبار بیشتر درباره هوش مصنوعی و تازه‌ترین تحولات فناوری، به ایران نت مراجعه کنید.
“`
