راهکار محققان دانشگاه تهران برای غلبه بر «توهم» در مدل‌های هوش مصنوعی

غلبه بر «توهم» در هوش مصنوعی: دستاورد جدید محققان دانشگاه تهران

در حالی که پدیده «توهم» (Hallucination) به عنوان جدی‌ترین چالش مدل‌های زبانی بزرگ (LLM) اعتبار این فناوری را در حوزه‌های حساس به خطر انداخته است، محققان برجسته دانشگاه تهران با بررسی دقیق معماری‌های RAG، راهکاری نوین برای عبور از این بحران ارائه داده‌اند. این دستاورد مهم، مسیر هوش مصنوعی را به سوی ابزاری مستند، قابل اعتماد و «حسابرسی‌پذیر» هموار می‌سازد.

تحقیقی جامع با بیش از ۳۰۰ مرجع علمی

این گزارش تحلیلی که بر پایه بررسی بیش از ۳۰۰ مرجع علمی تدوین شده، نشان می‌دهد که چگونه پیوند میان بازیابی اطلاعات و تولید متن می‌تواند هوش مصنوعی را از یک سیستم صرفاً احتمالی به ابزاری قابل اتکا و مبتنی بر شواهد تبدیل کند. این رویکرد، پتانسیل هوش مصنوعی را در کاربردهای حیاتی به طور چشمگیری افزایش می‌دهد.

چارچوب چهار مرحله‌ای دکتر اسدی برای رمزگشایی هوش مصنوعی

دکتر شاهرخ اسدی، عضو هیأت علمی دانشکدگان فارابی دانشگاه تهران و سرپرست گروه تحقیقاتی، در این تحلیل یک ساختار طبقه‌بندی شده چهار مرحله‌ای را معرفی می‌کند:

• نمایه‌سازی: سازماندهی و آماده‌سازی داده‌ها.
• بازیابی: استخراج اطلاعات مرتبط از پایگاه‌های داده.
• تلفیق: ترکیب اطلاعات بازیابی شده برای تولید پاسخ.
• تولید: ایجاد متن نهایی بر اساس اطلاعات تلفیق شده.

این چارچوب به متخصصان امکان می‌دهد تا پیچیده‌ترین معماری‌های هوش مصنوعی را رمزگشایی کرده و کارایی آن‌ها را در محیط‌های عملیاتی ارتقا بخشند.

تکامل RAG: از Vector به Graph

یکی از برجسته‌ترین بخش‌های این تحقیق، بررسی سیر تکامل از Vector RAG به سوی Graph RAG است. دکتر اسدی در این باره می‌گوید:

«برخلاف مدل‌های قدیمی که تنها به شباهت‌های سطحی کلمات بسنده می‌کردند، معماری‌های گرافی توانایی استدلال چندمرحله‌ای را فراهم می‌آورند که برای پاسخگویی به پرسش‌های پیچیده و تحلیلی حیاتی است.»

این پیشرفت، قابلیت‌های هوش مصنوعی را در درک و پردازش اطلاعات پیچیده به طرز چشمگیری بهبود می‌بخشد.

نقش Agentic RAG در سیستم‌های چندوجهی

این پژوهش همچنین به بررسی الگوهای نوظهوری می‌پردازد که مرزهای هوش مصنوعی را جابه‌جا کرده‌اند. دکتر اسدی به تبیین نقش Agentic RAG در سیستم‌های چندوجهی مدل‌های ترکیبی می‌پردازد؛ رویکردهایی که هوش مصنوعی را قادر می‌سازد به طور همزمان از متن، تصویر و پایگاه‌های داده پیچیده برای استخراج حقیقت استفاده کند. این قابلیت، هوش مصنوعی را به ابزاری قدرتمندتر و جامع‌تر تبدیل می‌کند.

مقایسه کاربردی پایگاه‌های داده‌برداری و گرافی

علاوه بر مباحث تئوریک، در این تحقیق مقایسه‌ای کاربردی میان پایگاه‌های داده‌برداری و گرافی برای استقرار در پروژه‌های بزرگ ارائه شده است. این مقایسه، ابزاری دقیق در اختیار پژوهشگران و مهندسان قرار می‌دهد تا بتوانند دقت و اعتبار سیستم‌های خود را به طور استاندارد بسنجند.

RAG: الگویی برای هوش مصنوعی «حسابرسی‌پذیر»

دکتر اسدی در پایان تأکید می‌کند که RAG اکنون به یک الگوی طراحی بالغ برای ساخت سیستم‌های هوش مصنوعی «حسابرسی‌پذیر» تبدیل شده است. این نقشه راه، مسیر حرکت از خط‌لوله‌های ساده اطلاعاتی به سوی سیستم‌های استدلال‌گر مبتنی بر شواهد را ترسیم کرده و بستری امن برای استفاده از هوش مصنوعی در تصمیم‌گیری‌های کلان فراهم می‌سازد.

این پژوهش ارزشمند که با همکاری دانشجو امیرعباس کمالی‌پور انجام شده است، برای علاقه‌مندان در دسترس قرار دارد.