خبر کامل
آنتروپیک قصد دارد جعبه سیاه هوش مصنوعی را تا سال 2027 باز کند

مدیرعامل آنتروپیک، «داریو آمودی»، در مقالهای جدید چالشهای شفافسازی عملکرد مدلهای هوش مصنوعی را بررسی کرده و گفته قصد دارد سازوکار این فناوری را تا سال 2027 آشکار کند. این شرکت قصد دارد در آیندهای نزدیک، در نحوه تصمیمگیری مدلهای هوش مصنوعی به شفافیت کامل برسد.
داریو آمودی، مدیرعامل آنتروپیک، از نگرانیهایش درباره کمبود شفافیت در مدلهای هوش مصنوعی پیشرفته سخن گفته است. او تأکید کرده آنتروپیک میخواهد تا 2027 به شفافسازی کامل در زمینه عملکرد مدلها دست یابد. آمودی میگوید این کار نهفقط برای افزایش اعتماد در استفاده از هوش مصنوعی، بلکه برای جلوگیری از خطرات احتمالی آن در بخشهای مختلف اقتصادی، امنیتی و فناوری ضروری است.

مدیرعامل آنتروپیک توضیح میدهد که شرکت آنها بهطور خاص روی چگونگی تحلیل و درک فرایندهای تصمیمگیری مدلها کار میکند. این شرکت با روشهای جدید توانسته تا حدی به ردیابی مسیرهای فکری مدلها دست یابد اما آمودی باور دارد که مسیر طولانیتری در پیش است.
آنتروپیک امیدوار است با پیشرفت بیشتر بتواند عملکرد مدلها را دقیقتر و قابل اطمینانتر شفاف کند که میتواند مزایای تجاری و ایمنی فراوانی داشته باشد.

مدیرعامل آنتروپیک اعلام کرده این شرکت موفق شده پیشرفتهایی اولیهای در ردیابی روند تصمیمگیری مدلهای هوش مصنوعی خود داشته باشد اما برای رمزگشایی کامل این سیستمها نیاز به تحقیقات گستردهتری دارد؛ به ویژه با افزایش قدرت و پیچیدگی مدلها.
آنتروپیک یکی از شرکتهای پیشرو در زمینه «تفسیرپذیری مکانیکی» است؛ شاخهای که هدف آن بازکردن جعبه سیاه هوش مصنوعی و درک دلیل انتخابها و تصمیمات این مدلهاست. به گفته آمودی، باوجود پیشرفتهای چشمگیر هنوز فهم دقیقی از چگونگی تصمیمگیری آنها وجود ندارد.
او بیان کرد: «هنگامی که سیستم مولد، مثلاً سندی مالی را خلاصه میکند، دقیق نمیدانیم چرا برخی کلمات را انتخاب میکند یا چرا باوجود دقت بالا، گاهی اشتباه میکند.» آنتروپیک تلاش دارد دلیل این اتفاقات را بفهمد.
آمودی همچنین نظر «کریس اولا» (Chris Olah)، همبنیانگذار آنتروپیک را مطرح کرد که معتقد است model های هوش مصنوعی «بیشتر رشد میکنند تا ساخته شوند» یعنی پژوهشگران توانستهاند عملکرد این مدلها را ارتقا دهند اما هنوز نمیدانند که چگونه این فرآیند انجام میشود.
درباره هوشمصنوعی دستاول:
تمامی اخبار دستاول توسط دستیار هوش مصنوعی «هوشنگ» پردازش، صحتسنجی، خلاصه و بازنویسی شده است. هوشنگ هر روز با دادههای جدید آموزش داده میشود و با نظارت دقیق انسانی و سردبیری دستاول در حال بهتر شدن است.
شما میتوانید از چتبات و سایر ابزارهای هوشنگ به صورت رایگان استفاده کنید.
زمان انتشار:
۱۵:۱۵ - ۱۴۰۴/۰۲/۰۶