هشدار رئیس پژوهشگاه ICT درباره خطر افشای داده‌های سازمانی در هوش مصنوعی

رئیس پژوهشگاه ارتباطات و فناوری اطلاعات با تأکید بر اهمیت امنیت سایبری، نسبت به استفاده بی‌رویه از ابزارهای هوش مصنوعی در سازمان‌ها هشدار داد و خاطرنشان کرد که وارد کردن اسناد و اطلاعات حساس به این سامانه‌ها می‌تواند منجر به افشای داده‌های حیاتی و خروج آن‌ها از مرزهای کشور شود.

خطرات استفاده از هوش مصنوعی در مدیریت سازمان‌ها

محمدحسین شیخی، رئیس پژوهشگاه ICT، در یک رویداد تخصصی اعلام کرد که اگرچه هوش مصنوعی می‌تواند سرعت فرآیندهای اداری و مدیریتی را به شدت افزایش دهد، اما ریسک بزرگی را نیز به همراه دارد. او تأکید کرد که سازمان‌ها باید نسبت به محتوای ارسال شده به این پلتفرم‌ها بسیار حساس باشند.

«امروزه ما در دنیایی هستیم که هوش مصنوعی در تصمیم‌گیری‌های کلان و حکمرانی نقش تعیین‌کننده‌ای دارد. استفاده نادرست از این فناوری در سازمان‌ها می‌تواند باعث لو رفتن نامه‌ها و اسناد رسمی و انتقال آن‌ها به خارج از کشور شود.»

به گفته وی، کشورهایی که بتوانند بر هوش مصنوعی تسلط یابند، در آینده‌ای نزدیک بر عرصه‌های مختلف از جمله دفاعی و نظامی، برتری خواهند داشت.

استراتژی توسعه مدل‌های زبانی بومی در ایران

در راستای مقابله با وابستگی به فناوری‌های خارجی، مژگان فرهودی، رئیس آزمایشگاه مرکز هوش مصنوعی، از برنامه‌های پژوهشگاه برای ایجاد یک اکوسیستم مستقل خبر داد. هدف اصلی این مجموعه، توسعه مدل‌های زبانی بومی است که بدون نیاز به رقابت مستقیم با غول‌های جهانی، بتواند نیازهای تخصصی کشور را پوشش دهد.

برخی از محورهای اصلی این استراتژی عبارتند از:

• تشکیل کنسرسیوم‌های داده برای دسترسی تیم‌های توسعه‌دهنده به اطلاعات تخصصی.
• راه‌اندازی «بازارگاه خدمات هوش مصنوعی» برای حمایت از استارتاپ‌ها و صنایع.
• ارائه زیرساخت‌های پردازشی و مدل‌های آماده به دانشگاه‌ها و کسب‌وکارها.

ارزیابی راهکارها و حل چالش‌های واقعی صنعت

پژوهشگاه ICT با هدف تبدیل دانش به محصول، دو مسیر اصلی را برای ارزیابی فناوری‌های نوظهور دنبال می‌کند. این مسیرها شامل ارزیابی محصول‌محور برای سامانه‌های بالغ و ارزیابی مسئله‌محور برای حل چالش‌های پیچیده صنعتی است.

در رویداد اخیر، ۵۱ تیم در پنج حوزه کلیدی به رقابت پرداختند که جزئیات آن در جدول زیر قابل مشاهده است:

برای برندگان این رقابت‌ها، علاوه بر جوایز نقدی که مجموعاً ۸۰۰ میلیون تومان برآورد شده، امتیازات ویژه بنیاد ملی نخبگان نیز در نظر گرفته شده است.

نتیجه‌گیری

در نهایت، با توجه به گسترش روزافزون هوش مصنوعی، ایجاد تعادل میان بهره‌وری و امنیت داده‌ها به یک ضرورت ملی تبدیل شده است. تلاش برای تولید مدل‌های بومی و پیوند میان پژوهش‌های دانشگاهی و نیازهای واقعی بازار، کلید اصلی حفظ حاکمیت دیجیتال در کشور خواهد بود.