قانون جدید چین برای کنترل هوش مصنوعی احساسی

نهاد ناظر بر فضای مجازی چین (CAC) با انتشار پیش‌نویس مقرراتی جدید، نظارت بر سرویس‌های هوش مصنوعی که شخصیت‌های انسانی را شبیه‌سازی کرده و وارد تعاملات عاطفی با کاربران می‌شوند، به‌شدت افزایش داد. این اقدام پکن با هدف مهار خطرات روانی و اخلاقی ناشی از نسل جدید چت‌بات‌ها و ربات‌های انسان‌نما صورت می‌گیرد.

طبق این دستورالعمل که روز شنبه منتشر شد، تمامی محصولات هوش مصنوعی در چین که دارای ویژگی‌هایی نظیر الگوهای فکری انسانی، سبک بیان عاطفی و تعامل از طریق صوت، تصویر یا متن هستند، مشمول نظارت‌های سخت‌گیرانه خواهند بود.

بر اساس این پیش‌نویس، شرکت‌های توسعه‌دهنده موظف‌اند سیستم‌های پایش الگوریتم و امنیت داده را مستقر کرده و در تمام چرخه عمر محصول، مسئولیت امنیت آن را بر عهده بگیرند. مهم‌ترین بخش این مقررات، الزام شرکت‌ها به شناسایی وضعیت روانی کاربران است؛ به طوری که اگر کاربری نشانه‌هایی از اعتیاد به هوش مصنوعی یا وابستگی عاطفی شدید نشان دهد، ارائه‌دهنده سرویس موظف به مداخله فوری خواهد بود.

علاوه بر این، چین خط قرمزهای محتوایی جدی‌تری را تعیین کرده است؛ تولید هرگونه محتوای ضد امنیت ملی، شایعه‌پراکنی یا ترویج خشونت توسط این مدل‌های هوش مصنوعی ممنوع است. این حرکت نشان‌دهنده استراتژی پکن برای پیشگامی در تنظیم‌گری (Regulation) هوش مصنوعی و مدیریت پیامدهای اجتماعی آن پیش از فراگیر شدن کامل ربات‌های انسان‌نما است.