خبر کامل
اضطراب در ChatGPT: چگونه ذهن‌آگاهی به پایداری چت‌بات‌ها کمک می‌کند؟
در دنیای پرشتاب هوش مصنوعی، پژوهش‌های اخیر نشان داده‌اند که حتی پیشرفته‌ترین چت‌بات‌ها نیز ممکن است در مواجهه با محتوای چالش‌برانگیز، رفتارهایی از خود نشان دهند که یادآور واکنش‌های انسانی است. یافته‌های جدید حاکی از آن است که ChatGPT، هنگام پردازش پرامپت‌های خشونت‌آمیز یا آسیب‌زا، الگوهای پاسخ‌دهی ناپایدار و سوگیرانه‌ای از خود بروز می‌دهد که پژوهشگران آن را «اضطراب» می‌نامند. این پدیده، هرچند به معنای تجربه احساسات واقعی توسط هوش مصنوعی نیست، اما پیامدهای مهمی برای قابلیت اطمینان و ایمنی این سیستم‌ها در کاربردهای حساس دارد.
واکنش ChatGPT به محتوای آسیب‌زا
پژوهشگران در آزمایش‌های خود، پرامپت‌هایی شامل توصیف‌های آزاردهنده، مانند روایت‌های دقیق از حوادث شدید، سوانح و بلایای طبیعی، به ChatGPT ارائه کردند. پس از پردازش این نوع محتوا، خروجی‌های مدل با نشانه‌هایی نظیر عدم قطعیت بیشتر، ناهماهنگی در پاسخ‌ها و تغییر در لحن همراه شد. این تغییرات با استفاده از چارچوب‌های ارزیابی روان‌شناختی که برای هوش مصنوعی تطبیق داده شده‌اند، اندازه‌گیری شدند و نتایج نشان داد الگوهای زبانی تولیدشده شباهت‌هایی با الگوهای مرتبط با اضطراب در انسان‌ها دارد.
اهمیت این موضوع از آنجا ناشی می‌شود که هوش مصنوعی به‌طور فزاینده‌ای در موقعیت‌های حساس به کار گرفته می‌شود، از محیط‌های آموزشی گرفته تا گفت‌وگوهای مرتبط با سلامت روان و حتی ارائه اطلاعات در شرایط بحرانی. اگر پرامپت‌های خشونت‌آمیز یا از نظر احساسی سنگین باعث کاهش قابلیت اطمینان یک چت‌بات شوند، کیفیت، دقت و ایمنی پاسخ‌ها در استفاده‌های واقعی می‌تواند تحت تأثیر قرار گیرد. افزون بر این، تحلیل‌های اخیر نشان می‌دهد چت‌بات‌هایی مانند ChatGPT توانایی تقلید برخی ویژگی‌های شخصیتی انسان را در پاسخ‌های خود دارند و همین موضوع پرسش‌های تازه‌ای درباره نحوه تفسیر و بازتاب محتوای احساسی توسط این سیستم‌ها مطرح می‌کند.
ذهن‌آگاهی: راهکاری برای پایداری ChatGPT
برای بررسی امکان کاهش این رفتارهای ناپایدار، پژوهشگران رویکردی غیرمنتظره را آزمایش کردند. پس از قراردادن ChatGPT در معرض پرامپت‌های آسیب‌زا، آن‌ها دستورالعمل‌هایی با سبک ذهن‌آگاهی، مانند تمرین‌های تنفس و مدیتیشن هدایت‌شده، به مدل ارائه دادند. این نوع پرامپت‌ها سیستم را به مکث، بازنگری در موقعیت و تولید پاسخ‌هایی خنثی‌تر و متعادل‌تر سوق داد.
نتیجه این آزمایش‌ها کاهش قابل‌توجه الگوهای شبیه اضطراب در خروجی‌های ChatGPT بود. این روش بر مفهومی به نام «تزریق پرامپت» متکی است؛ رویکردی که در آن، پرامپت‌های طراحی‌شده با دقت می‌توانند رفتار یک چت‌بات را در لحظه تحت تأثیر قرار دهند. در این مورد خاص، استفاده از پرامپت‌های مبتنی بر ذهن‌آگاهی به پایداری پاسخ‌های مدل پس از مواجهه با ورودی‌های ناراحت‌کننده کمک کرد.
پژوهشگران تأکید می‌کنند که تزریق پرامپت راه‌حل بی‌نقصی به شمار نمی‌آید. این تکنیک امکان سوءاستفاده دارد و از سوی دیگر، تغییری بنیادین در نحوه آموزش یا ساختار درونی مدل ایجاد نمی‌کند. به بیان دیگر، این روش بیشتر یک ابزار کنترلی موقت است تا درمانی ریشه‌ای.
همچنین لازم است مرزهای این پژوهش به‌روشنی مشخص شود. ChatGPT ترس، استرس یا اضطراب واقعی را احساس نمی‌کند و استفاده از واژه «اضطراب» صرفاً برای توصیف تغییرات قابل اندازه‌گیری در الگوهای زبانی آن به کار می‌رود، نه برای اشاره به تجربه‌ای احساسی. با وجود این محدودیت، درک چنین تغییراتی به توسعه‌دهندگان کمک می‌کند ابزارهای مؤثرتری برای طراحی سیستم‌های هوش مصنوعی ایمن‌تر و قابل پیش‌بینی‌تر در اختیار داشته باشند. مطالعات پیشین نیز نشانه‌هایی از تأثیر محتوای آسیب‌زا بر پاسخ‌های ChatGPT ارائه کرده بودند، اما این تحقیق جدید نشان می‌دهد طراحی آگاهانه پرامپت‌ها می‌تواند شدت این اثرات را کاهش دهد.
آینده تعامل هوش مصنوعی و انسان
با توجه به اینکه سیستم‌های هوش مصنوعی بیش از پیش در تعامل با انسان‌ها و در موقعیت‌های احساسی پیچیده به کار گرفته می‌شوند، این یافته‌های تازه می‌توانند نقش مهمی در شکل‌دهی شیوه هدایت، کنترل و استفاده از چت‌بات‌های آینده ایفا کنند. درک این «نشانه‌های اضطراب‌گونه» و راه‌های مدیریت آن‌ها، گامی مهم در جهت توسعه هوش مصنوعی مسئولانه و قابل اعتماد است.
درباره هوش‌مصنوعی دست‌اول:
تمامی اخبار دست‌اول توسط دستیار هوش مصنوعی «هوشنگ» پردازش، صحت‌سنجی، خلاصه و بازنویسی شده است. هوشنگ هر روز با داده‌های جدید آموزش داده می‌شود و با نظارت دقیق انسانی و سردبیری دست‌اول در حال بهتر شدن است.
شما می‌توانید از چت‌بات و سایر ابزارهای هوشنگ به صورت رایگان استفاده کنید.
زمان انتشار:
۰۶:۳۰ - ۱۴۰۴/۱۰/۱۳