ضرورت توجه به پاسخ‌های عاطفی در حکمرانی هوش مصنوعی
بر اساس پژوهشی که در تاریخ ۲۶ اکتبر ۲۰۲۶ در نشریه Nat Hum Behav به چاپ رسیده است، چارچوب‌های حکمرانی هوش مصنوعی باید پاسخ‌های عاطفی کاربران را در کانون تصمیم‌گیری‌های خود قرار دهند. دانیل وستفیول (Daniel Västfjäll) از آزمایشگاه JEDI در بخش روان‌شناسی و دپارتمان علوم رفتاری و یادگیری دانشگاه لینشوپینگ (Linköping University) سوئد و همچنین مؤسسه Decision Research در ایالات متحده، در این اثر اشاره می‌کند که افراد معمولاً به دلیل احساسی که یک خروجی هوش مصنوعی در آن‌ها ایجاد می‌کند به آن اعتماد کرده یا بی‌اعتماد می‌شوند، نه لزوماً بر اساس میزان قابلیت اتکا و دقت واقعی آن خروجی.
الزامات جدید برای پلتفرم‌های هوش مصنوعی
برپایه تحلیل‌های مطرح‌شده در این مطالعه، احساسات نقشی کلیدی در نحوه تعامل و پذیرش فناوری‌های هوشمند از سوی انسان ایفا می‌کنند. به همین دلیل، مقررات و چارچوب‌های حکمرانی هوش مصنوعی باید پلتفرم‌ها را ملزم به رعایت الزامات مشخصی کنند:
- افشا و شفاف‌سازی تصمیمات طراحی که به طور خاص احساسات کاربران را هدف قرار می‌دهند.
- فراهم کردن امکان کنترل و مدیریت این انتخاب‌های طراحی برای کاربران.
- گنجاندن ویژگی‌ها و ابزارهایی که هدف آن‌ها سنجش و تنظیم دقیق میزان اعتماد کاربران است.
پیشینه پژوهشی و مستندات قانون‌گذاری
مباحث مطرح‌شده در این نوشته متکی بر پیشینه‌ای از پژوهش‌های رفتاری و تعاملی است. در این متن به مطالعاتی از پژوهشگرانی همچون کازی و همکاران (Qazi, I. A. et al.)، وایتز و همکاران (Waytz, A. et al.)، لی و سی (Lee, J. D. & See, K. A.)، بوچینکا و همکاران (Buçinca, Z. et al.)، پاراسورامان و مانزی (Parasuraman, R. & Manzey, D. H.)، دیتوورست و همکاران (Dietvorst, B. J. et al.)، بیگمن و گری (Bigman, Y. E. & Gray, K.)، و همچنین کش و همکاران (Cash, T. N. et al.) ارجاع داده شده است. علاوه بر این، اسناد قانونی نظیر مقررات اتحادیه اروپا به شماره Regulation (EU) 2024/1689 نیز در چارچوب موضوعات مرتبط با تنظیم‌گری هوش مصنوعی مورد استناد قرار گرفته‌اند.
این تحلیل نشان می‌دهد که ارزیابی میزان اعتماد کاربران به هوش مصنوعی تنها از طریق معیارهای فنی کارایی امکان‌پذیر نیست، بلکه بررسی جنبه‌های روان‌شناختی و واکنش‌های عاطفی ناشی از طراحی سیستم، بخش تکمیلی و ضروری برای سیاست‌گذاری و حکمرانی صحیح در این حوزه محسوب می‌شود.