خبر کامل
«نشان» با هوش مصنوعی، ۹۰ درصد نظرات کاربران را خودکار مدیریت می‌کند
«نقشه و مسیریاب نشان» با بهره‌گیری از پیشرفته‌ترین معماری‌های پردازش زبان طبیعی و مدل‌های زبانی بزرگ، گامی بلند در جهت بهبود تجربه کاربری برداشته است. این سامانه توانسته فرایند بررسی و مدیریت نظرات کاربران را تا ۹۰ درصد به صورت خودکار انجام دهد و با حفظ دقت بی‌نظیر ۹۹.۹۹ درصدی، زمان انتشار یا رد کامنت‌ها را از چندین روز به کمتر از یک روز کاهش دهد.
چرا برخی نظرات منتشر نمی‌شوند؟
برای حفظ کیفیت محتوا و ارائه بهترین تجربه کاربری، «نشان» مجموعه‌ای از نظرات را منتشر نمی‌کند. دلایل اصلی عدم انتشار کامنت‌ها به شرح زیر است:
- کامنت غیرمرتبط: نظراتی که اطلاعات مکانی غیر از مکان مورد نظر را ارائه می‌دهند، منتشر نمی‌شوند. به عنوان مثال، اگر کاربری نظری را برای یک فروشگاه در مرکز خرید اشتباهی ثبت کند، به او اطلاع داده می‌شود که نظرش را در مکان صحیح بنویسد.
- کامنت غیرمفید: نظراتی که اطلاعات کاربردی برای تصمیم‌گیری سایر کاربران ارائه نمی‌دهند، مانند «دیوارهاش سفیده» برای یک رستوران، منتشر نخواهند شد.
- نقض حریم خصوصی: کامنت‌هایی که حاوی اطلاعات شخصی افراد هستند و رضایت آن‌ها برای انتشار مشخص نیست، از انتشار بازداشته می‌شوند.
- توهین‌آمیز یا آزاردهنده: نظراتی با محتوای تند، توهین‌آمیز یا آزاردهنده در «نشان» جایی ندارند.
- اسپم: کامنت‌های تبلیغاتی یا تکراری به عنوان اسپم شناخته شده و منتشر نمی‌شوند.
پیش از هوش مصنوعی: نظارت انسانی و چالش‌ها
پیش از پیاده‌سازی سیستم خودکار، تمامی نظرات توسط نیروی انسانی بررسی می‌شدند. این روش، با وجود دقت بالا، با چالش‌های متعددی همراه بود:
- زمان‌بر بودن: بررسی روزانه هزاران کامنت کاری بسیار وقت‌گیر و طاقت‌فرسا بود.
- هزینه‌های بالا: جذب و آموزش ناظران جدید مستلزم صرف هزینه‌های قابل توجهی بود.
- دشواری در اعمال سریع تغییرات: اعمال سریع تغییرات در فرایند یا سیاست‌های انتشار نظرات امکان‌پذیر نبود.
- تأخیر در نمایش نظرات مفید: انتشار سریع نظرات ارزشمند و کمک‌کننده برای کاربران با تأخیر مواجه می‌شد.
ضرورت اتوماسیون و چالش‌های آن
با توجه به مشکلات فوق و رشد فزاینده تعداد کاربران و نظرات، نیاز به سیستمی که بتواند به سرعت، دقت و در مقیاس بزرگ تصمیم‌گیری کند، بیش از پیش احساس شد. از این رو، تصمیم بر آن شد که فرایند تأیید و رد نظرات با استفاده از پردازش متن فارسی و روش‌های نوین یادگیری ماشین خودکار شود.
در مسیر اتوماسیون، چالش‌های مهمی وجود داشت؛ حتی یک تصمیم اشتباه می‌تواند پیامدهای جدی به دنبال داشته باشد:
- حذف نادرست یک کامنت مفید می‌تواند رضایت کاربر را کاهش داده و سایر کاربران را از محتوای ارزشمند محروم کند.
- انتشار یک کامنت نامناسب به تجربه جمعی کاربران آسیب می‌رساند.
بنابراین، سیستمی قابل قبول است که بتواند تصمیم‌هایی با اطمینان بسیار بالا (Precision) اتخاذ کند.
طراحی سیستم هوشمند بررسی نظرات
برای توسعه این سیستم، از معماری‌های پیشرفته پردازش زبان طبیعی مبتنی بر Transformer با مکانیزم Self-Attention استفاده شد. این معماری با استفاده از مجموعه‌داده‌ای برچسب‌خورده از نظرات واقعی کاربران، بهینه‌سازی شد تا در زمینه «تأیید یا رد کامنت» عملکردی مطلوب داشته باشد.
پس از مدل‌سازی اولیه، یک ماژول پس‌پردازش (post-process) تفسیرپذیر توسعه یافت که خروجی مدل را با تحلیل آماری n-gram و الگوهای معنایی استخراج‌شده ارزیابی می‌کند. در این مرحله، وزن‌دهی به توالی کلمات بر اساس احتمال وقوع آن‌ها در دسته‌های مختلف انجام شده و نتایج با مجموعه‌ای از قواعد تطبیق داده می‌شود.
این ترکیب به سیستم امکان می‌دهد با قطعیت بالایی تشخیص دهد که یک کامنت به هیچ‌یک از دسته‌های «غیرمرتبط»، «توهین‌آمیز»، «ناقض حریم خصوصی» و غیره تعلق ندارد. مزیت این طراحی، ایجاد شفافیت در تصمیم‌گیری است؛ هر پیش‌بینی نه تنها بر اساس شبکه عصبی ترانسفورمری انجام می‌شود، بلکه ماژول پس‌پردازش نیز از پیش‌بینی مدل اطمینان حاصل می‌کند. این رویکرد، با تضمین ۹۹.۹۹٪ Precision، تنها کامنت‌هایی را به صورت خودکار منتشر می‌کند که مدل و لایه پس‌پردازش بر قابل انتشار بودن آن‌ها توافق کامل داشته باشند.
افزایش نرخ اتوماسیون با مدل‌های زبانی بزرگ
در مرحله بعدی توسعه، برای پوشش نظراتی که مدل اولیه درباره آن‌ها اطمینان کافی نداشت، از مدل‌های زبانی بزرگ (LLM) بهره گرفته شد. این کار با استفاده از API مدل‌های پیشرفته OpenAI و در قالب یک Pipeline ترکیبی انجام شد تا هم دقت بالا حفظ شود و هم هزینه پردازش بهینه بماند.
در این ساختار، ابتدا معماری ترانسفورمری پیش‌بینی اولیه را انجام می‌دهد. خروجی‌هایی که ماژول Post-Process آن‌ها را «مطمئن» تشخیص دهد، مستقیماً تعیین تکلیف می‌شوند. اما در مواردی که سطح اطمینان پایین‌تر از آستانه تعریف‌شده باشد، کامنت برای تحلیل عمیق‌تر به LLM ارسال می‌شود.
در این مرحله، با استفاده از تکنیک‌های پیشرفته مهندسی پرامپت (Prompt Engineering)، متن ورودی بازنویسی و ساختاردهی می‌شود تا مدل زبانی بتواند با حداقل تعداد توکن و با هزینه‌ای به‌صرفه، ارزیابی معنایی عمیق‌تری انجام دهد.
نتیجه این رویکرد، بدون کوچک‌ترین افت در Precision سیستم، افزایش نرخ اتوماسیون از ۵۵٪ به ۹۰٪ بوده است. ترکیب سرعت و تفسیرپذیری مدل‌های سبک با توانایی درک زمینه‌ای و ظرافت‌های زبانی LLM، تعادلی ایده‌آل از نظر هزینه، کیفیت و مقیاس‌پذیری ایجاد کرده است.
دستاوردها در یک نگاه
- ۹۰ درصد از کامنت‌ها اکنون به صورت خودکار بررسی و تعیین تکلیف می‌شوند.
- دقت (Precision) سیستم در این دسته‌بندی‌ها: ۹۹.۹۹ درصد (یعنی از هر ۱۰,۰۰۰ تصمیم، تنها یک مورد احتمالا خطا باشد).
- ۱۰ درصد از کامنت‌ها که مدل درباره آن‌ها اطمینان کافی ندارد، همچنان به تیم نظارت انسانی سپرده می‌شود.
- کاهش بیش از ۹۰ درصدی زمان متوسط تأیید یا رد هر کامنت.
- کاهش صدها ساعت از زمان مورد نیاز برای تیم نظارت انسانی.
- هیچ کامنتی بیش از یک روز منتظر تعیین تکلیف شدن نمی‌ماند.
- تسهیل فرایند تغییر در سیاست‌ها: امکان افزودن سریع دلایل رد جدید (مانند «اسپم») بدون نیاز به آموزش نیروهای انسانی.
درباره هوش‌مصنوعی دست‌اول:
تمامی اخبار دست‌اول توسط دستیار هوش مصنوعی «هوشنگ» پردازش، صحت‌سنجی، خلاصه و بازنویسی شده است. هوشنگ هر روز با داده‌های جدید آموزش داده می‌شود و با نظارت دقیق انسانی و سردبیری دست‌اول در حال بهتر شدن است.
شما می‌توانید از چت‌بات و سایر ابزارهای هوشنگ به صورت رایگان استفاده کنید.
