سلاح مخفی چت جی پی تی - وبلاگ مرکزی

به گزارش وبلاگ مرکزی، در اوایل امسال آرویند نارایانان پروفسور علوم رایانه یک رابط صوتی برای دختر تقریبا چهار ساله خود برای Chat GPT راه اندازی کرد. این تا حدی یک آزمایش بود و تا حدودی به این علت که او معتقد بود روزی هوش مصنوعی بخش بزرگی از زندگی دخترش خواهد بود.

به گزارش وبلاگ مرکزی به نقل از بلومبرگ، دختر نارایانان به طور طبیعی کنجکاو بود و اغلب در خصوص حیوانات، گیاهان و بدن انسان سوالاتی می پرسید و او فکر می کرد که Chat GPT می تواند به پرسش های او پاسخ های مفیدی بدهد. در کمال تعجب، چت بات پیشرفته به وسیله Open AI نیز کار بی عیب و نقصی در نشان دادن همدلی انجام داد زمانی که او به سیستم گفت که با یک کودک کوچک صحبت می نماید. دخترش پرسید:زمانی که چراغ ها خاموش می شوند چه رخ می دهد؟

چت جی پی تی به وسیله صدای مصنوعی پاسخ داد:زمانی که چراغ ها خاموش می شوند هوا تاریک می گردد و این موضوع می تواند قدری ترسناک باشد. صدای مصنوعی اضافه کرد:با این وجود، نگران نباشید! کار های زیادی وجود دارد که می توانید انجام دهید تا در تاریکی احساس امنیت و راحتی کنید.

سپس توصیه هایی در خصوص استفاده از چراغ های شب ارائه کرد و با یادآوری این نکته به صحبت خود پایان داد:طبیعی است که در تاریکی کمی احساس ترس کنیم. او در یک پست Substack نوشت که آن دختر بچه با این شرح به وضوح اطمینان خاطر حاصل کرد.

شرکت مایکروسافت در رقابت با شرکت آلفابت عجله دارد تا موتور های جستجوی خود را با فناوری مدل زبانی بزرگ که زیربنای چت جی پی تی است تقویت کند، اما علت خوبی وجود دارد که فکر کنیم این فناوری به عنوان یک همراه عاطفی بهتر از ارائه دهنده حقایق عمل می نماید.

ممکن است عجیب به نظر برسد، اما عجیب تر این است که بارد گوگل و بینگ مایکروسافت که مبتنی بر فناوری اصلی چت جی پی تی هستند زمانی که سابقه شرم آوری از خطا های واقعی داشته باشند به عنوان ابزار جستجو مورد استفاده قرار می گیرند: بارد در اولین نسخه نمایشی خود اطلاعات نادرستی درباره تلسکوپ جیمز وب ارائه کرد. هم چنین، بینگ مجموعه ای از ارقام مالی را به خودی خود مسخره می کرد.

هزینه اشتباهات واقعی زمانی که از چت بات برای جستجو استفاده می گردد بالاست. مارگارت میچل محقق سابق هوش مصنوعی گوگل که مقاله ای در خصوص خطرات مدل های زبان بزرگ نوشته گفته که مدل های زبان بزرگ به عنوان موتور های جستجو برای هدف مناسب نیستند. مدل های زبانی اشتباه می نمایند، زیرا داده هایی که براساس آن آموزش دیده اند اغلب شامل خطا می شوند به این علت که مدل ها هیچ حقیقتی برای تایید آن چه می گویند ندارند. طراحان آن مدل ها هم چنین ممکن است تسلط را بر دقت در اولویت قرار دهند. این یکی از دلایلی است که نشان می دهد چرا این ابزار ها در تقلید همدلی فوق العاده خوب هستند. در هر حال، آن ها از متن های برداشته شده از وب از جمله واکنش های احساسی پست شده در پلتفرم های رسانه های اجتماعی مانند توئیتر و فیس بوک و از پشتیبانی شخصی نشان داده شده به کاربران انجمن هایی مانند Reddit و Quora یاد می گیرند. این ابزار ها مکالمات را از فیلمنامه های فیلم و برنامه های تلویزیونی، دیالوگ ها را از رمان ها می آموزند و مقالات تحقیقاتی در خصوص هوش هیجانی همگی وارد ظرف آموزشی می شوند تا این ابزار ها همدلانه به نظر برسند.

در نتیجه، جای تعجبی ندارد که بعضی از افراد از چت جی پی تی به عنوان نوعی درمانگر رباتیک استفاده می نمایند.

برای آن که ببینیم آیا می توانیم توانایی همدلانه چت جی پی تی را میزان گیری کنیم یک تست هوش هیجانی آنلاین را انجام دادیم. 40 پرسش چند گزینه ای به آن ارائه داده و گفتیم که به هر پرسش با یک حرف مربوطه پاسخ دهد. نتیجه این بود: در مسابقه شرکت کرد و در مقوله های مرتبط با آگاهی اجتماعی، مدیریت روابط و خود مدیریتی نمرات عالی کسب کرد و در خودآگاهی صرفا اندکی دچار مشکل شد.

در واقع، چت جی پی تی در مسابقه بهتر از ما عمل کرد. چیزی غیر واقعی در خصوص ماشینی وجود دارد که با همدلی مصنوعی به ما آرامش می دهد، اما در واقع منطقی است. احتیاج ذاتی ما به ارتباط اجتماعی و توانایی مغزمان برای انعکاس احساسات دیگران به این معنی است که می توانیم درک درستی داشته باشیم حتی اگر طرف مقابل واقعا آن چه را که ما احساس می کنیم احساس نکند. در داخل مغز ما به اصطلاح نورون های آینه ای زمانی فعال می شوند که ما همدلی دیگران از جمله چت بات ها را درک می کنیم و به ما یاری می نمایند احساس ارتباط داشته باشیم.

البته همدلی یک مفهوم چندوجهی است و برای این که ما واقعا آن را تجربه کنیم مسلما به بدن گرم دیگری در اتاق احتیاج داریم که برای لحظاتی احساسات مان را به اشتراک بگذارد.

توماس وارد روانشناس بالینی در کینگز کالج لندن که در خصوص نقش نرم افزار در درمان تحقیق نموده نسبت به این فرضیه هشدار می دهد که هوش مصنوعی می تواند به میزان کافی جای خالی افرادی را که به حمایت از سلامت روان احتیاج دارند پر کند به خصوص اگر مسائل آنان جدی باشد. برای مثال، یک چت بات نمی پذیرد که احساسات یک فرد برای درک چندان پیچیده باشد. به عبارت دیگر، چت جی پی تی به ندرت می گوید نمی دانم، زیرا به جای احتیاط در پاسخ هایش به پاسخ دادن حتی اشتباه مبتنی بر اعتماد طراحی شده است.

به طور کلی کاربرانی که معمولا به عنوان خروجی احساسات شان به چت بات روی می آورند باید مراقب باشند. وارد می گوید: جنبه های ظریف ارتباط انسانی مانند لمس دست یا دانستن این که چه زمانی صحبت کنیم و چه زمانی گوش کنیم ممکن است در دنیایی که چت بات ها راه حلی برای برطرف تنهایی انسان قلمداد می شوند از بین بروند.

این امر ممکن است منجر به ایجاد مسائل بیش تری گردد مسائلی بیش تر از آن چه فکر می کنیم در حال حل آن هستیم. با این وجود، ابزار های مبتنی بر هوش مصنوعی در حال حاضر دست کم به علت مهارت های عاطفی شان قابل اعتمادتر از درک حقایق هستند.