کشف تاریخی ناخواسته توسط هوش مصنوعی: اعتراضات ۱۸۳۴ لندن

تولد TimeCapsuleLLM: بازآفرینی صدای ویکتوریا

هایک گریگوریان، دانشجوی علوم کامپیوتر در کالج مولنبرگ پنسیلوانیا، طی یک ماه گذشته مشغول توسعه مدلی به نام TimeCapsuleLLM بوده است. هدف او ساخت یک مدل زبان کوچک بود که صرفاً بر اساس متون مربوط به لندن بین سال‌های ۱۸۰۰ تا ۱۸۷۵ آموزش ببیند تا بتواند «صدایی واقعی» از دوران ویکتوریا را بازتولید کند. نتیجه این تلاش، تولید متن‌هایی غنی از ارجاعات کتاب مقدسی و سبک نگارشی خاص آن دوران بود.

این پروژه بخشی از حوزه نوظهور «مدل‌های زبانی تاریخی» است که به پژوهشگران امکان می‌دهد با الگوهای زبانی و ذهنی گذشته تعامل کنند. نمونه‌های دیگر شامل MonadGPT (آموزش‌دیده بر اساس ۱۱ هزار متن بین سال‌های ۱۴۰۰ تا ۱۷۰۰) و XunziALLM (تولیدکننده شعرهای کلاسیک چینی) هستند.

اشاره‌ای به گذشته: اعتراضات ۱۸۳۴ و لرد پالمرستون

یکی از خروجی‌های شگفت‌انگیز TimeCapsuleLLM زمانی رخ داد که گریگوریان مدل را با جمله «سال ۱۸۳۴ میلادی بود» آغاز کرد. مدل در ادامه متنی تولید کرد که در آن به اعتراضات مردم لندن و حتی نام لرد پالمرستون اشاره شده بود. گریگوریان که از این رویداد بی‌اطلاع بود، پس از جستجو متوجه شد که:

• اعتراضات گسترده‌ای در سال ۱۸۳۴ در لندن و در پی تصویب قانون اصلاح فقرای ۱۸۳۴ رخ داده است.
• پالمرستون در آن دوره وزیر امور خارجه بریتانیا بوده است.

این کشف نشان‌دهنده توانایی یک مدل کوچک و شخصی در بازسازی پیوندی واقعی از میان هزاران سند پراکنده است، بدون آنکه به طور مستقیم برای این موضوع آموزش دیده باشد. گریگوریان اشاره کرد که داده‌های آموزشی او تنها ۵ تا ۶ گیگابایت بوده و پیش‌بینی می‌کند با افزایش حجم داده‌ها به ۳۰ گیگابایت یا بیشتر، نتایج بسیار جالب‌تری حاصل شود.

تکامل مدل و کاهش «توهمات»

گریگوریان روش خود را «آموزش انتخابی زمانی» می‌نامد. در این روش، مدل‌ها کاملاً از ابتدا با داده‌های قدیمی تمرین داده می‌شوند تا هیچ اثری از زبان مدرن در خروجی آن‌ها نباشد. تاکنون سه نسخه از این مدل ساخته شده که هر بار از نظر انسجام تاریخی بهبود یافته‌اند:

• نسخه اولیه: تنها متون بی‌معنی تولید می‌کرد.
• نسخه ۰.۵: توانست نثر درست‌تری بسازد.
• نسخه کنونی (۷۰۰ میلیون پارامتر): قادر به اشاره به رویدادهای واقعی است.

به گفته گریگوریان، این روند به کاهش خطاهای خیالی (توهمات) مدل کمک کرده است. در حالی که نسخه‌های قبلی می‌توانستند سبک نگارش قرن نوزدهم را تقلید کنند اما وقایع ساختگی می‌ساختند، نسخه جدید شروع به یادآوری داده‌های واقعی کرده است.

کاربردهای آینده و انتشار عمومی

این نوع آزمایش‌ها می‌تواند برای پژوهشگران تاریخ و علوم انسانی دیجیتال بسیار سودمند باشد، زیرا امکان گفتگو با مدل‌های زبانی شبیه به گویش‌ها و سبک‌های گذشته را فراهم می‌کند. اگرچه خروجی ممکن است همیشه کاملاً دقیق نباشد، اما برای مطالعه نحو و واژگان قدیمی الهام‌بخش خواهد بود.

گریگوریان قصد دارد در آینده مدل‌هایی مشابه برای شهرهای دیگر مانند پکن، مسکو یا دهلی نیز توسعه دهد. او کدها و نتایج پروژه خود را به صورت عمومی در گیت‌هاب منتشر کرده است.

در دنیایی که معمولاً از خطاهای خیالی هوش مصنوعی صحبت می‌شود، این بار خروجی ناخواسته و درست مدل او نوعی «واقعیت اتفاقی» به حساب می‌آید که افق‌های جدیدی را در تعامل با گذشته می‌گشاید.