محققان چینی مدل Llama متا را برای کاربردهای اطلاعاتی نظامی بازطراحی کرده‌اند

## هوش مصنوعی چینی با الهام از مدل Llama متا، در خدمت ارتش

اخیرا گزارش‌هایی مبنی بر استفاده محققان چینی از مدل زبان بزرگ Llama شرکت متا برای توسعه یک سیستم هوش مصنوعی نظامی به نام ChatBIT منتشر شده است. این موضوع نگرانی‌ها درباره خطرات استفاده از فناوری‌های متن‌باز در حوزه نظامی را افزایش داده است.

مدل Llama شرکت متا، به‌صورت متن‌باز و آزادانه در دسترس عموم قرار دارد؛ اما شرایط استفاده از آن به‌وضوح کاربردهای نظامی را ممنوع کرده است. با این وجود، به نظر می‌رسد این محدودیت‌ها به‌راحتی قابل دور زدن باشند.

گزارش‌ها حاکی از آن است که شش محقق چینی از سه موسسه، از جمله دو موسسه وابسته به آکادمی علوم نظامی ارتش آزادی‌بخش خلق چین (PLA)، در توسعه ChatBIT مشارکت داشته‌اند. آن‌ها با ادغام پارامترهای مدل Llama 2 13B، ابزاری هوش مصنوعی با تمرکز بر کاربردهای نظامی ایجاد کرده‌اند. مطالعات بعدی نشان می‌دهد ChatBIT برای پردازش مکالمات نظامی و کمک به تصمیم‌گیری‌های عملیاتی طراحی شده و ادعا می‌شود که حدود 90 درصد توانایی GPT-4 را دارد. با این حال، روش‌های ارزیابی عملکرد این مدل و محدودیت‌های آن به‌طور کامل شفاف نیست.

تحلیلگران مسائل هوش مصنوعی و پژوهش‌های نظامی چین، ادعاهای مربوط به توسعه و کارایی ChatBIT را تایید می‌کنند. آن‌ها معتقدند عملکرد گزارش‌شده ChatBIT با کاربردهای آزمایشی هوش مصنوعی همخوانی دارد؛ اما فقدان روش‌های ارزیابی دقیق و داده‌های قابل دسترسی، تایید قطعی ادعاها را دشوار می‌کند.

تحقیقات رویترز نیز با استناد به منابع و تحلیلگران، ارتباط محققان وابسته به PLA با توسعه ChatBIT را تایید می‌کند. این تحقیق نشان می‌دهد که ارتش چین تلاش کرده است از مدل متن‌باز متا برای وظایف اطلاعاتی و استراتژیک استفاده کند. این اولین مورد عمومی از اقتباس یک ارتش ملی از مدل زبان Llama برای اهداف دفاعی است.

استفاده از هوش مصنوعی متن‌باز در مقاصد نظامی، بحث در مورد خطرات امنیتی مرتبط با فناوری‌های عمومی را دوباره مطرح کرده است. متا، مانند سایر شرکت‌های فناوری، Llama را با محدودیت‌های واضح در برابر استفاده نظامی ارائه داده است. اما همانند بسیاری از پروژه‌های متن‌باز، اعمال این محدودیت‌ها عملا غیرممکن است. پس از دسترسی به کد منبع، می‌توان آن را تغییر داده و برای اهداف دیگری استفاده کرد. مورد ChatBIT نمونه بارزی از این چالش است.

این موضوع به درخواست‌های جدید برای کنترل‌های صادراتی سختگیرانه‌تر و محدودیت‌های بیشتر در دسترسی چین به فناوری‌های متن‌باز و استانداردهای باز مانند RISC-V منجر شده است. این اقدامات با هدف جلوگیری از حمایت فناوری‌های آمریکایی از پیشرفت‌های نظامی بالقوه رقیب انجام می‌شود. قانون‌گذاران همچنین در حال بررسی راه‌هایی برای محدود کردن سرمایه‌گذاری‌های ایالات متحده در بخش‌های هوش مصنوعی، نیمه‌رسانا و رایانش کوانتومی چین هستند تا جریان تخصص و منابعی که می‌تواند رشد صنعت فناوری چین را تقویت کند، کاهش یابد.

برخی از کارشناسان با توجه به حجم نسبتا محدود داده‌های استفاده‌شده در توسعه ChatBIT، درباره اثربخشی آن تردید دارند. این مدل با استفاده از 100000 رکورد مکالمه نظامی آموزش دیده است که در مقایسه با مجموعه داده‌های عظیمی که برای آموزش مدل‌های زبان پیشرفته در غرب استفاده می‌شود، بسیار کوچک است. تحلیلگران معتقدند که این امر می‌تواند توانایی ChatBIT را در انجام وظایف نظامی پیچیده، به‌ویژه در مقایسه با مدل‌های زبان بزرگی که با تریلیون‌ها نقطه داده آموزش دیده‌اند، محدود کند.

متا در واکنش به این گزارش‌ها اعلام کرد که نسخه Llama 2 13B مورد استفاده در توسعه ChatBIT، نسخه قدیمی است و آن‌ها در حال کار بر روی Llama 4 هستند. این شرکت همچنین هرگونه سوء استفاده از Llama را غیرمجاز اعلام کرد. مولی مونتگومری، مدیر سیاست عمومی متا، گفت: «هرگونه استفاده از مدل‌های ما توسط ارتش آزادی‌بخش خلق چین غیرمجاز و مغایر با سیاست قابل قبول استفاده ما است.»

مجله خبری تکنولوژی و موبایل