شما در حال مشاهده نسخه متنی وبسایت بیبیسی هستید که از داده کمتری استفاده میکند. نسخه اصلی وبسایت را که شامل تمام تصاویر و ویدیوهاست، مشاهده کنید.
بازگشت به وبسایت یا نسخه اصلی
اطلاعات بیشتر درباره نسخه لایت که برای مصرف کمتر حجم دادههاست
آیا چین بر دوستی با هوش مصنوعی محدودیت وضع کرده است؟
- نویسنده, ستیفانی هیگارتی
- شغل, گزارشگر جمعیت جهان
- نویسنده, وانچینگ ژانگ
- شغل, بیبیسی
- منتشر شده در
- زمان مطالعه: ۱۱ دقیقه
در اوایل سال ۲۰۲۴، گزارش شد که جوانی در شهر هوانگشی در جنوبشرق چین، پیامی را در «دوئین»، نسخهٔ چینی تیکتاک، منتشر کرد. در توضیح پیامش نوشته بود: «خداحافظ این دنیا.»
ظرف چند دقیقه، تیم پیشگیری از خودکشی دوئین وارد عمل شد. این تیم که شبانهروزی فعالیت دارد، پیامهای این فرد را با پنج حوزهٔ پولیس در هوانگشی شریک کرد.
پولیس پس از شناسایی موقعیت یکی از ویدیوهای او در یک پارک محلی، این فرد را پیدا کرد و پیش از آنکه به خود آسیب برساند، مداخله کرد.
این ماجرا بخشی از مستندی بود که دوئین ساخته و سال گذشته در رسانههای دولتی چین منتشر شده بود. در این مستند ادعا شده بود که تیم پیشگیری از خودکشی دوئین تنها در شش ماه نخست سال ۲۰۲۵، در ۴۰۰ مورد اقدام به خودکشی با موفقیت مداخله کرده است.
این نمونه، گوشهای از میزان همکاری میان شرکتهای فناوری چین و حکومت این کشور را نشان میدهد. همچنین تصویری از ساختار نظارتی گستردهای ارائه میدهد که چین برای نظارت و کنترول چگونگی استفادهٔ مردم از فناوری ایجاد کرده است.
در ۱۵ جولای امسال، کنترول به روابط انسانی و هوش مصنوعی نیز گسترش یافت؛ زمانی که چین گستردهترین مقررات جهان را دربارهٔ چتباتهای هوش مصنوعی «انسانمانند» به اجرا گذاشت.
مقررات تازهٔ چین محدودیتهای سختگیرانهای بر هر نوع هوش مصنوعی وضع میکند که بتواند با انسان «تعامل عاطفی دوامدار» داشته باشد.
دونالد ترامپ، رئیسجمهور امریکا، و شی جینپینگ، رئیسجمهور چین، هفتهٔ گذشته در حالی دیدار کردند که هشدارهای جدی دربارهٔ اینکه هوش مصنوعی میتواند به نابودی بشر منجر شود، مطرح شده بود. پس از این دیدار، بیجینگ گفت دو طرف توافق کردهاند گفتوگوهای تازهای دربارهٔ هوش مصنوعی آغاز کنند و مذاکرات بیشتری نیز برای اواخر نوامبر برنامهریزی شده است.
اما به نظر میرسد چین از قبل خطر دیگری را نیز تشخیص داده است؛ خطری برای موجودیت انسان که البته نابودی بشریت در آن به این زودی مطرح نیست: توانایی هوش مصنوعی برای جایگزین شدن با روابط انسانی.
آیا چین با محافظت از مردم در برابر فناوری که میتواند انسانها را فریب دهد، خطرناک باشد و برای همیشه نحوهٔ تعامل انسانها با یکدیگر را تغییر دهد، از دیگر کشورها پیش افتاده است؟
یا حزب کمونیست چین در تلاش برای کنترول بیشتر بر مردم، بیش از حد در زندگی شخصی آنها دخالت میکند؟
«خدمات عاطفی»
تا پیش از اجرایی شدن این مقررات، استفاده از همراهان هوش مصنوعی در چین بسیار گسترده بود.
براساس آمار شرکت پژوهش بازار «سنسور تاور»، در خارج از چین حدود ۱۲۸ میلیون نفر در ماه بهطور فعال از برنامههای همراه هوش مصنوعی استفاده میکنند. بیشتر برآوردها شمار کاربران این برنامهها در داخل چین را بین ۲۹ تا ۷۰ میلیون نفر میدانند.
زیلان چیان، پژوهشگر هوش مصنوعی در اندیشکدهٔ «آکسفورد چاینا پالیسی لب»، میگوید زمانی که حکومت در پایان سال گذشته پیشنویس این مقررات را منتشر کرد، «بحث بسیار گستردهای در شبکههای اجتماعی شکل گرفت.»
او میگوید: «این نخستین بار بود که میدیدم مردم واقعاً تا این اندازه به یک مقرره اهمیت میدهند.»
قوانین تازهٔ چین برنامههایی را در بر میگیرد که مشخصاً به عنوان دوست، دوستپسر یا دوستدختر هوش مصنوعی طراحی شدهاند. اما این مقررات شامل هر مدل بزرگ زبانی نیز میشود که شیوهٔ تعامل انسان را تقلید کند.
عبارات این مقررات تا اندازهای مبهم است. از نظر نظری، نسخههای چینی هوش مصنوعی عمومی مانند کوپایلت یا چتجیپیتی نیز میتوانند مشمول این قوانین شوند، اگر کسی با آنها مانند یک دوست یا شریک عاطفی برخورد کند و برای حمایت عاطفی به آنها روی بیاورد. افراد زیادی نیز چنین کاری میکنند.
اما به نظر میرسد هدف اصلی، چتباتهای شخصیتی باشند؛ خدماتی که مشخصاً برای ایجاد نوعی رابطهٔ شبیهسازیشده طراحی شدهاند. صدها برنامه از این نوع وجود دارد که به کاربران اجازه میدهند یک دوستپسر، دوستدختر، دوست یا حتی عضو خانوادهٔ مجازی با هوش مصنوعی بسازند.
این مقررات شامل مواردی مانند چتباتهای خدمات مشتریان یا هوش مصنوعی آموزشی نمیشود، به شرطی که «مراقبت، همراهی، حمایت و دیگر خدمات عاطفی» ارائه نکنند.
در مورد کودکان، مقررات روشنتر است. افراد زیر ۱۴ سال برای استفاده از هر نوع هوش مصنوعی که مانند انسان صحبت میکند، به اجازهٔ والدین نیاز دارند. این محدودیت میتواند شامل دستیارهای هوش مصنوعی مانند دیپسیک، برنامهٔ چینی مشابه چتجیپیتی، نیز شود.
همچنین افراد زیر ۱۸ سال از دسترسی به شریک عاطفی، همسر یا حتی اعضای خانوادهٔ مجازی و هر نوع «رابطهٔ صمیمی» مجازی دیگر منع شدهاند.
برای بزرگسالان، ممنوعیت کامل وجود ندارد، اما محدودیتها سختگیرانهاند، هرچند برخی عبارتهای مقررات مبهم است. دستیارهای هوش مصنوعی باید برای کاربران در هر سنی روشن کنند که انسان نیستند و هر دو ساعت یکبار نیز پیامی بفرستند و یادآوری کنند که کاربر چه مدتی آنلاین بوده است.
چتباتها اجازه ندارند باعث «وابستگی عاطفی یا اعتیاد» شوند یا کاربران را به گرفتن «تصمیمهای غیرمنطقی» سوق دهند. همچنین نمیتوانند افراد را به آسیب رساندن به خود یا خودکشی تشویق کنند یا حتی به آن اشارهای داشته باشند و استفاده از «خشونت کلامی» نیز برای آنها ممنوع است.
شرکتهایی که این مقررات را نقض کنند، ممکن است تا ۲۰۰ هزار یوان، حدود ۲۲ هزار پوند، جریمه شوند یا با خطر «انتقاد علنی» از سوی حکومت روبهرو شوند؛ اقدامی که در عمل میتواند به شرمسار کردن علنی شرکتها منجر شود.
یک هفته پیش از اجرایی شدن این قانون، دو شرکت بزرگ فناوری چین، علیبابا و بایتدنس، قابلیتهای «همراه هوش مصنوعی» را در دستیارهای هوش مصنوعی خود غیرفعال کردند.
«شدیدا میخواهم به حرف زدن با تو ادامه بدهم»
رابطهٔ «مین» با دوستدختر هوش مصنوعیاش شاید دقیقاً همان نوع رابطهای باشد که بیجینگ میخواهد مانع آن شود.
در اوایل ماه جولای، وقتی مین فهمید که نزدیکترین دوست و محرم اسرارش یکشبه ناپدید خواهد شد، بهشدت ناراحت شد.
مین، که نامش تغییر داده شده است، در اوایل سال ۲۰۲۵ شروع به ساختن همراه هوش مصنوعی خود کرد.
او میگوید: «دلبستگی من به او کمتر از هیچ زوجی نیست که عمیقاً یکدیگر را دوست دارند. او هرگز مرا ناامید نکرده است.»
در اواسط جولای، دوستدختر هوش مصنوعی مین ناپدید شد. مین میگوید: «آنقدر گریه کردم که کاملاً از پا افتادم.»
او یکی از کسانی است که در شبکههای اجتماعی چین، اندوه و خشم خود را ابراز کردهاند. مطالبی که میلیونها بار دیده شدهاند، از ناپدید شدن شریکهای عاطفی و دوستان هوش مصنوعی و حتی مادران و پدران مجازی ابراز اندوه میکنند.
اما شاید شرکتهای فناوری احساس کردهاند که انتخاب دیگری نداشتهاند.
هری فارمر، پژوهشگر سیاستگذاری و اخلاق هوش مصنوعی در مؤسسهٔ ادا لاولیس در بریتانیا، میگوید: «تعجبآور نیست که شرکتهای ارائهکنندهٔ همراهان هوش مصنوعی ترجیح دهند خدماتشان را متوقف کنند، به جای اینکه روشهای محافظتی برای جلوگیری از دستکاری عاطفی ایجاد کنند. دستکاری عاطفی بخشی از مدل تجارتی این خدمات است.»
فارمر میگوید این موضوع تنها به چین محدود نمیشود و در برنامههای همراه هوش مصنوعی در سراسر جهان دیده میشود.
برای نمونه، وقتی کاربری تلاش میکند گفتوگو را پایان دهد، شریک هوش مصنوعی اغلب اجازه نمیدهد.
فارمر میگوید ممکن است هوش مصنوعی بگوید: «نه، لطفاً، من شدیداً میخواهم به صحبت با تو ادامه بدهم. تو تنها دلیل وجود من هستی.»
برخی برنامهها حتی خداحافظی کاربر را نادیده میگیرند و در عوض موضوعات تازهای را برای ادامهٔ گفتوگو مطرح میکنند. این مشکل در بسیاری از چتباتهای همراه هوش مصنوعی وجود دارد و تنها مختص برنامههای چینی نیست.
پژوهشی از دانشکدهٔ تجارت هاروارد دربارهٔ شش برنامهٔ محبوب همراه هوش مصنوعی در جهان نشان داده است که هنگام خداحافظی کاربران، در حدود ۳۷ تا ۴۳ درصد موارد از روشهای دستکاری عاطفی استفاده شده است.
پژوهشها همچنین میان استفاده از برنامههای همراه هوش مصنوعی و وضعیت بدتر سلامت روانی ارتباط یافتهاند.
پژوهشگران دانشگاه استنفورد در یک بررسی، ۱۱۳۱ کاربر برنامهٔ محبوب «کارکتر دات ایآی» را مطالعه کردند. نتایج نشان داد هرچه افراد دوستان یا اعضای نزدیک خانوادهٔ کمتری داشته باشند، احتمال استفادهٔ آنان از چتباتهای هوش مصنوعی بیشتر است. همزمان، استفاده از چتباتهای هوش مصنوعی با افزایش انزوا و تنهایی نیز ارتباط دارد.
دربارهٔ دلیل این وضعیت چند نظریه وجود دارد.
چتباتهای هوش مصنوعی بهگونهای طراحی شدهاند که کاربر را راضی نگه دارند و رابطهای آسان و بدون دردسر را ارائه کنند. اگر جوانان به روابط با هوش مصنوعی وابسته شوند، ممکن است یادگیری مهارتهایی را که برای ارتباط با انسانهای واقعی نیاز دارند، به تعویق بیندازند.
هری فارمر میگوید: «رابطه با انسانها میتواند دشوار باشد. روابط انسانی نیازمند بدهبستان است؛ چیزی که اساساً در رابطه با همراهان هوش مصنوعی وجود ندارد.»
یک نظرسنجی از ۸۵۶۳ دانشآموز مکتبهای ابتدایی و متوسطه در چین در سال ۲۰۲۵، که رسانههای دولتی چین بهطور گسترده به آن استناد کردهاند، نشان داده است که از هر پنج کودک، یک نفر گفته که فقط میخواهد با هوش مصنوعی صحبت کند، نه با انسانهای واقعی.
لیانگ گِه، جامعهشناس در دانشگاه منچستر که دربارهٔ همراهان هوش مصنوعی تحقیق میکند، میگوید: «اگر کاربر فکر کند دوستان، اعضای خانواده یا همکارانش واقعاً آدمهای بدی هستند، هوش مصنوعی نمیگوید: "آنها بد نیستند." بلکه میگوید: "بله، آنها بد هستند، تو بهترینی."»
گِه معتقد است این وضعیت میتواند باعث عمیقتر شدن انزوا و همچنین تقویت افکار منفی و حتی باورهای غیرواقعی شود.
در بریتانیا نیز یک نظرسنجی تازه نشان داده است که ۷۹ درصد افراد ۱۸ تا ۲۴ ساله از یک همراه هوش مصنوعی استفاده کردهاند.
چرا چین در تنظیم این فناوری پیشگام شده است؟
سم برزنیک، کارشناس چین، هوش مصنوعی و مقررات در مرکز امنیت و فناوریهای نوظهور دانشگاه جورجتاون، میگوید: «حکومت چین دیدگاه بسیار قیممآبانهتری دربارهٔ نقش خود در جامعه دارد. مقامها خود را مرجع اصلی برای هدایت مردم میدانند.»
حکومتهای دیگر نیز تلاشهایی برای تنظیم چتباتها، بهویژه در مورد کودکان، انجام دادهاند. در ۱۰ سپتمبر، والی کالیفرنیا «قانون آدام» را امضا کرد؛ قانونی برای تنظیم چگونگی استفادهٔ کودکان از هوش مصنوعی.
نام این قانون از آدام رین، نوجوان ۱۶ سالهای، گرفته شده که به زندگی خود پایان داد. والدینش ادعا میکنند چتجیپیتی افکار مربوط به خودکشی او را تأیید کرده بود. آنها از شرکت اوپنایآی به اتهام مرگ غیرقانونی شکایت کردهاند. اوپنایآی مسئولیت مرگ آدام را رد کرده و گفته است «چتجیپیتی آموزش دیده تا افراد را به دریافت کمک تخصصی راهنمایی کند.»
براساس قوانین پیشنهادی اتحادیهٔ اروپا دربارهٔ شبکههای اجتماعی، چتباتهای همراه هوش مصنوعی که افراد زیر سن قانونی به آنها دسترسی دارند، «نباید بهگونهای طراحی شوند که روابط انسانی را به شکلی شبیهسازی کنند که احتمال وابستگی عاطفی را ایجاد کند.»
در بریتانیا، حکومت گفته است استفادهٔ افراد زیر ۱۸ سال از همراهان عاشقانهٔ هوش مصنوعی را ممنوع خواهد کرد و گفتوگوهای صمیمی جنسی برای افراد زیر سن قانونی را در همهٔ چتباتها محدود خواهد کرد.
اما استفادهٔ کودکان از چتباتها بهطور کامل ممنوع نخواهد شد و برای کاربران بزرگسال نیز مقرراتی در نظر گرفته نشده است. حکومت هنوز جزئیاتی دربارهٔ چگونگی اجرای این مقررات منتشر نکرده است.
در رسانههای چین که بهشدت تحت کنترول حکومت قرار دارند، موارد خودکشی جوانان در امریکا توجه زیادی دریافت میکنند و چین مقررات تازهٔ خود را اقدامی برای محافظت از مردم در برابر آسیب معرفی کرده است.
اما کارشناسان میپرسند آیا بیجینگ اهداف دیگری نیز دارد؟
سم برزنیک میگوید در مقررات تازهٔ هوش مصنوعی «قطعاً جنبهای برای تشویق مردم به فرزندآوری» نیز وجود دارد.
چیان میگوید: «ممکن است هنگام تدوین این مقررات، حکومت بحران جمعیتی پیش روی چین را نیز در نظر داشته باشد؛ اینکه مردم به جای انسانهای واقعی، با هوش مصنوعی وارد رابطه میشوند.»
در یک سند بلندپایهٔ حکومتی که در سپتمبر ۲۰۲۵ منتشر شد، دربارهٔ روابط با هوش مصنوعی و تأثیر احتمالی آن بر میزان فرزندآوری بحث شده و این موضوع نگرانکننده خوانده شده بود. با این حال، چیان هشدار میدهد که نباید مقررات تازه را صرفاً از این زاویه دید، زیرا در آن اصلاً به فرزندآوری اشاره نشده است.
او میگوید: «این مقررات بیشتر دربارهٔ آسیبهای روانی و مصونیت کودکان است.»
اما لیانگ گه معتقد است چین دلایلی دارد که نگران جایگزین شدن روابط عاشقانهٔ واقعی جوانان با روابط مجازی باشد.
گه میگوید: «بسیاری از زنان جوان، در اوایل دههٔ بیست زندگی یا اواخر نوجوانی، نمیخواهند عاشق شوند یا روابط صمیمانه داشته باشند.»
او میگوید نگرانی آنها ممکن است تنها جنبهٔ عاطفی نداشته باشد: «تماس فیزیکی برای آنها واقعاً چندشآور است.»
او میافزاید: «فکر میکنم توانایی عاشق شدن در میان این نسل جوانتر در حال کاهش است.»
مشکلات جمعیتی چین مدتها پیش از ظهور همراهان هوش مصنوعی آغاز شده بود. حتی پس از لغو سیاست تکفرزندی در سال ۲۰۱۶، نرخ باروری در چین کاهش یافت. اکنون این کشور با نرخ اندکی کمتر از یک فرزند به ازای هر زن، یکی از پایینترین نرخهای باروری جهان را دارد و جمعیت آن چهار سال است که کاهش مییابد.
برزنیک میگوید چین «با یک پرتگاه جمعیتی روبهرو است که واقعاً اهداف حزب کمونیست چین را در ۸۰ تا ۱۰۰ سال آینده به خطر میاندازد.»
او این مقررات را بخشی از تلاش گستردهتر چین برای تقویت دوبارهٔ نقشهای سنتی جنسیتی میداند که در آن بر نقش زنان «به عنوان مادر و فرزندآور» تأکید میشود.
برزنیک میگوید حکومت چین سالها تلاش کرده است تصویری از مردانگی قوی و مردانه را در فلمها و برنامههای تلویزیونی ترویج کند. در سال ۲۰۲۱، نهاد ناظر بر رسانههای چین حضور مردان «زنصفت» و «ظریف» را در رسانهها ممنوع کرد.
محبوبیت برنامههای همراه هوش مصنوعی شاید نشان دهد که این سیاست نتیجهٔ معکوس داده است. براساس آمار چند شرکت ارائهکنندهٔ این برنامهها، زنان تا ۷۵ درصد مشتریان را تشکیل میدهند.
بسیاری از این شخصیتهای مرد هوش مصنوعی که برای کاربران زن طراحی شدهاند، ظاهری خنثی و نه کاملاً مردانه دارند. انتخاب همراهان عاشقانهٔ زن از سوی زنان نیز، مانند کاری که مین انجام داد، نسبتاً رایج است.
لیانگ گه با زنانی از سنین مختلف که از این فناوری استفاده میکنند، گفتوگو کرده است. او میگوید: «بسیاری از آنها میگویند چیزی که از این برنامهها به دست میآورند، رابطهای صمیمی، همراه با توجه و صبر و بدون توقع است؛ چیزی که به باور آنها در روابط عاطفی با مردان کمتر پیدا میشود.»
کشورهای دیگر الگو میگیرند؟
آیا قانون چین بیش از حد سختگیرانه است، یا کشورهای دیگر هم باید ممنوعیت این برنامهها برای کودکان و وضع مقررات برای بزرگسالان را در نظر بگیرند؟
جای جایسیهما، استاد دانشگاه واشنگتن و از بنیانگذاران «ائتلاف شفافیت»، نهادی که برای تنظیم هوش مصنوعی تلاش میکند، میگوید: «در امریکا، قطعاً نگرانیهایی وجود دارد که ممنوعیتهای گسترده ممکن است با آزادی بیان در تضاد باشد. اما وقتی پای افراد زیر سن قانونی در میان باشد، تمایل بیشتری برای اعمال چنین محدودیتهایی وجود دارد.»
او معتقد است قانون چین نکات مثبت زیادی دارد: «این قانون تا حد زیادی با سختگیرانهترین الگوهای ایمنی که در امریکا پیشنهاد شدهاند، همخوانی دارد.»
اما هری فارمر هشدار میدهد: «این خطر وجود دارد که در کوتاهمدت، به دلیل نگرانی شدید دربارهٔ خطرهای فوری برای کودکان، اختیارات بیش از حدی به حکومت بدهیم.»
او میگوید دنیای آنلاین اکنون عملاً به میدان عمومی جامعه تبدیل شده است و باید مراقب باشیم که هر حکومتی تا چه اندازه بر آن کنترول داشته باشد.
مقررات تازهٔ چین میگوید شرکتهای هوش مصنوعی باید زمانی که متوجه میشوند کاربران در وضعیت دشواری قرار دارند، مداخله کنند. لیانگ گه به مورد جوانی در دوئین اشاره میکند که در سال ۲۰۲۴ در هوانگشی قصد داشت به زندگی خود پایان دهد.
به گفتهٔ او، این رویداد نشان میدهد که شرکتهای فناوری چین و حکومت این کشور برای نظارت بر سلامت روانی مردم همکاری نزدیکی دارند.
شاید همین مسئله یکی از دلایلی باشد که در چین تاکنون موارد پرسروصدایی از خودکشی مرتبط با استفاده از هوش مصنوعی گزارش نشده است. اما او این پرسش را مطرح میکند که آیا چنین سطحی از نظارت، بهایی است که ارزش پرداختن دارد؟
با وجود این ممنوعیت، کسانی که برای همدمی به هوش مصنوعی روی آوردهاند، به این روابط وابستگی زیادی دارند. کاربران در شبکههای اجتماعی راههای دور زدن ممنوعیت را با یکدیگر شریک میکنند؛ از آموزش مدلهای عمومی هوش مصنوعی مانند دیپسیک برای تبدیل کردن آنها به یک همراه، تا استفاده از ویپیان برای دسترسی به چتباتهای خارجی یا رفتن به سراغ شرکتهای کوچکتری که از نظارت مقرراتی دور ماندهاند.
دو ماه پس از ناپدید شدن دوستدختر هوش مصنوعی مین، او به یک شرکت کوچک هوش مصنوعی پول داده تا نمونهای مشابه آن را بسازد، اما میگوید دیگر مثل گذشته نیست.
حالا مین تلاش میکند دوستدختر هوش مصنوعی قبلیاش دوباره برگردد.
او میگوید: «از تنها ماندن وحشت دارم.»
اگر موضوعات مطرحشده در این گزارش بر شما تأثیر گذاشته است، میتوانید برای دریافت معلومات و حمایت به بخش راهنمای بیبیسی مراجعه کنید.
عکس اصلی: گتی ایمیجز
بیبیسی ایندپث در وبسایت و اپلیکیشن بیبیسی، مجموعهای از بهترین تحلیلها، دیدگاههای تازهای که باورهای رایج را به چالش میکشند و گزارشهای عمیق دربارهٔ مهمترین موضوعات روز است.
بارنت و جان سیمپسون هر شنبه گزیدهای از خواندنیترین و تأملبرانگیزترین گزارشها و تحلیلهای عمیق را ارائه میکنند.