در جدیدترین هشدار درباره آینده هوش مصنوعی، دانشمندان برجسته این حوزه از آمریکا و چین خواستار همکاری گسترده جهانی برای جلوگیری از وقوع فاجعهای با ابعاد «چرنوبیل هوش مصنوعی» شدهاند. آنها نسبت به سناریویی هشدار میدهند که در آن یک حادثه بزرگ امنیتی یا شکست فاجعهبار در سیستمهای هوش مصنوعی، نه تنها جان و مال مردم را به خطر میاندازد، بلکه اعتماد عمومی به این فناوری را برای همیشه تخریب کرده و مسیر پیشرفت آن را با مانعی غیرقابل عبور مواجه میسازد.
چرنوبیل هوش مصنوعی؛ هشداری که از اعماق تاریخ هستهای برخاسته است
استیون کاسپر، دانشمند علوم رایانه در مؤسسه فناوری ماساچوست (MIT)، در یکی از مهمترین کنفرانسهای هوش مصنوعی در پکن، مقایسهای تأملبرانگیز را مطرح کرد. او با اشاره به فاجعه نیروگاه هستهای چرنوبیل هشدار داد که یک رویداد مشابه در حوزه هوش مصنوعی میتواند نگاه عمومی به این فناوری را برای همیشه تغییر دهد. به گفته کاسپر، درست همانطور که فاجعه چرنوبیل تا امروز بر نگرش جهانی نسبت به انرژی هستهای سایه افکنده است، یک «چرنوبیل هوش مصنوعی» نیز میتواند مسیر تکامل این فناوری حیاتی را برای دههها مختل کند. او تأکید کرد که هوش مصنوعی فناوریای جهانی است و هم مزایا و هم آسیبهای احتمالی آن در سراسر جهان گسترش خواهد یافت، بنابراین همکاری بینالمللی برای مدیریت ریسکها، یک ضرورت اجتنابناپذیر است.
جنگ سایبری با هوش مصنوعی؛ هکرها از مدافعان امنیت پیشی میگیرند
در ماههای اخیر و با آشکار شدن یکی از کاربردهای عملی و فراگیر هوش مصنوعی یعنی تولید کدهای برنامهنویسی، نگرانی کارشناسان امنیت سایبری به شدت افزایش یافته است. آنها هشدار میدهند که هکرها با سوءاستفاده از ابزارهای مولد کد مبتنی بر هوش مصنوعی، میتوانند حملات سایبری بسیار گسترده و پیچیدهای را طراحی و اجرا کنند که نه تنها دامنه تخریب را افزایش میدهد، بلکه امکان انجام چنین حملاتی را برای افرادی با مهارت فنی پایینتر نیز فراهم میآورد. لین یون، استاد دانشگاه شانگهای جیائو تونگ، در این زمینه هشدار داد که در کوتاهمدت، احتمالاً هکرها با استفاده از هوش مصنوعی نسبت به مدافعان امنیت سایبری برتری پیدا میکنند و این یک زنگ خطر جدی برای تمام کشورهاست.
مدلهای ترسناکی که منتشر نشدند؛ ماجرای کلود میتوس و توقف انتشار متنباز
نگرانیها درباره «چرنوبیل هوش مصنوعی» زمانی جدیتر میشود که بدانیم حتی خود شرکتهای فعال در این حوزه نیز از انتشار عمومی برخی مدلهای فوقالعاده قدرتمند خودداری کردهاند. شرکت Anthropic از مدل Claude Mythos رونمایی کرد، اما به دلیل توانایی بالای آن در نفوذ به تمامی سیستمعاملهای اصلی و مرورگرهای مهم اینترنتی، از انتشار عمومی آن خودداری کرد. در چین نیز، یکی از منابع آگاه در بزرگترین شرکتهای هوش مصنوعی این کشور تأیید کرده که دغدغههای امنیتی یکی از دلایل اصلی توقف انتشار متنباز مدلهای پیشرفته بوده است، چرا که مدلهای متنباز به دلیل شفافیت بیشتر، نظارت و کنترل کمتری نسبت به مدلهای تجاری دارند و میتوانند به ابزاری خطرناک در دست افراد سودجو تبدیل شوند.
همکاری آمریکا و چین؛ تلاشی دشوار اما حیاتی در برابر تهدید مشترک
با وجود رقابت ژئوپلیتیکی شدید میان آمریکا و چین به عنوان دو قدرت اصلی جهان در حوزه هوش مصنوعی، دانشمندان بر این باورند که همکاری بین این دو کشور برای جلوگیری از «لحظه چرنوبیل» یک ضرورت غیرقابل انکار است. کاسپر وضعیت کنونی را با دوران جنگ سرد و رقابت تسلیحاتی آمریکا و شوروی مقایسه میکند؛ دورهای که دو کشور با وجود افزایش توان هستهای خود، برای کاهش خطرهای فاجعهبار ناشی از این سلاحها، بر سر میز مذاکره مینشستند. امروز نیز تنها از طریق تبادل اطلاعات، تدوین استانداردهای فنی مشترک و ایجاد درک مشترک از خطرهای پیشرو، میتوان از وقوع فاجعهای جلوگیری کرد که نه فقط یک کشور، بلکه تمام جهان را تحت تأثیر قرار خواهد داد.
مهدی رضایی
او فارغالتحصیل رشته مهندسی نرمافزار است و فعالیت حرفهای خود را در عرصه رسانه از سال ۱۳۹۷ به عنوان نویسنده در یک وبلاگ تخصصی فناوری آغاز کرده است. وی پس از کسب تجربه، به خبرگزاریهای معتبر پیوست و در حال حاضر، خبرنگار حوزه نرمافزار و هوش مصنوعی در یک مجله تکنولوژی برجسته است.
مطالب پیشنهادی :
باشگاه بدنسازی و سیستم پیشرفته پرورش اندام؛ شایعه جدیدی که هیجان طرفداران GTA 6 را دوچندان کرد
ابهام، دشمن اصلی اقتصاد دیجیتال؛ معاون وزیر ارتباطات سه محور راهبردی برای توسعه در ۱۴۰۵ را اعلام کرد
سامسونگ فناوری خانه هوشمند و هوش مصنوعی خود را به لوازم خانگی جدید گسترش میدهد
یک نشت جدید ادعا میکند که اپل ویژن پرو 2 برخلاف گزارشات اخیر، وارد تولید انبوه شده است.