راهکار محققان کره‌ای برای کاهش اعتماد کاذب در هوش مصنوعی

محققان موسسه KAIST در کره جنوبی با ارائه یک روش نوآورانه، گامی مهم در جهت بهبود قابلیت‌های هوش مصنوعی برداشته‌اند. این راهکار جدید به هوش مصنوعی کمک می‌کند تا عدم قطعیت در پاسخ‌های خود را تشخیص دهد و از اعتماد بیش از حد به نتایج نادرست جلوگیری کند، پدیده‌ای که می‌تواند به خطاهای جدی منجر شود.

ریشه مشکل: مقداردهی اولیه تصادفی و اعتماد کاذب

تحقیقات به رهبری «سی بوم پایک» نشان داده است که یکی از دلایل اصلی اعتماد کاذب در هوش مصنوعی، روش رایج مقداردهی اولیه تصادفی در شبکه‌های عصبی است. این اتفاق زمانی رخ می‌دهد که شبکه‌های عصبی بدون یادگیری واقعی و عمیق، با اطمینان بالایی پاسخ‌هایی را ارائه می‌دهند که ممکن است کاملاً اشتباه باشند و این امر به بروز نتایج نادرست منجر می‌شود.

راهکار پیشنهادی: روش «گرم کردن»

برای حل این چالش، تیم تحقیقاتی KAIST روشی به نام «گرم کردن» (warming up) را پیشنهاد کرده است. در این رویکرد، شبکه عصبی قبل از آغاز آموزش اصلی با داده‌های واقعی، برای مدت کوتاهی با داده‌های نویزی و تصادفی تمرین می‌بیند. این فرآیند پیش‌تمرینی باعث می‌شود هوش مصنوعی پیش از مواجهه با اطلاعات اصلی، درک بهتری از عدم قطعیت پیدا کرده و به حالت طبیعی‌تر و واقع‌بینانه‌تری در زمینه اعتماد به پاسخ‌های خود برسد.

این فرآیند باعث می‌شود هوش مصنوعی پیش از مواجهه با داده‌های اصلی، به حالت طبیعی و مبتنی بر عدم قطعیت برسد و اعتماد کاذب خود را کاهش دهد.

الهام از مغز انسان و فراشناخت

این محققان با الهام از عملکرد مغز انسان، که پیش از تولد مدارهای عصبی خود را با سیگنال‌های خودجوش و مستقل از داده‌های خارجی شکل می‌دهد، به این نتیجه رسیدند که فعالیت‌های عصبی اختیاری نقش مهمی در تشکیل سیستم‌های شناختی ایفا می‌کنند. با بهره‌گیری از این مفهوم در شبکه‌های مصنوعی، مرحله «گرم کردن» به عنوان یک پیش‌آموزش عمل می‌کند که شبکه را قادر می‌سازد تا درک صحیح‌تری از عدم قطعیت و میزان اعتماد در پاسخ‌های خود داشته باشد.

نتایج و چشم‌انداز آینده

این روش سطح اعتماد اولیه را نزدیک به تصادفی بودن نگه داشته و سوگیری‌های نادرست در مراحل اولیه آموزش را کاهش می‌دهد. در نتیجه، هوش مصنوعی نه تنها قادر به ارائه پاسخ‌های صحیح خواهد بود، بلکه می‌تواند بین آنچه می‌داند و آنچه نمی‌داند، تمایز قائل شود؛ قابلیتی که به آن «فراشناخت» یا «شناخت خود» گفته می‌شود.

این فناوری نویدبخش تحولی بزرگ در توسعه سیستم‌های هوشمند است که می‌توانند علاوه بر تولید پاسخ، وضعیت شناختی خود را نیز ارزیابی کنند و این امر به افزایش دقت و قابلیت اطمینان سیستم‌های هوش مصنوعی در کاربردهای مختلف منجر خواهد شد.