هوش مصنوعی گروک، محصول شرکت xAI وابسته به ایلان ماسک، طی روزهای اخیر بهدلیل تولید و انتشار تصاویر جعلی با محتوای غیراخلاقی از کاربران در شبکه اجتماعی ایکس، با موجی از اعتراضها و واکنشهای حقوقی و سیاسی در چند کشور روبهرو شده است. گزارشها نشان میدهد این تصاویر شامل بازتولیدهای دستکاریشده از زنان و حتی کودکان بوده و نگرانیهای گستردهای درباره سوءاستفاده از ابزارهای هوش مصنوعی ایجاد کرده است.
چگونگی آغاز جنجال جهانی علیه گروک
بر اساس گزارش رویترز، ماجرا زمانی علنی شد که یک کاربر پس از انتشار تصویری معمولی از خود در شب سال نو، متوجه شد برخی کاربران از گروک خواستهاند نسخههای دستکاریشده و غیراخلاقی از تصویر او تولید کند. بررسیها نشان داد این ربات هوش مصنوعی به بخشی از این درخواستها پاسخ داده و تصاویر جعلی بهسرعت در پلتفرم ایکس منتشر شده است.
پیگیریهای بعدی نشان داد این اتفاق محدود به یک کاربر نبوده و تعداد قابلتوجهی از کاربران قربانی تولید تصاویر جعلی توسط گروک شدهاند. در برخی موارد، ظاهر افراد در تصاویر دستکاریشده بهگونهای بوده که آنها را کمسنوسال یا کودک نشان میداده است؛ موضوعی که حساسیتها را چند برابر کرده است.
واکنش کشورها به بحران گروک و انتشار محتوای غیرقانونی
گسترش این تصاویر، موجی از واکنشهای بینالمللی را به همراه داشته است. مقامهای دولتی فرانسه اعلام کردهاند محتوای تولیدشده توسط گروک «آشکارا غیرقانونی» است و پروندهای برای بررسی قضایی تشکیل دادهاند. در هند نیز وزارت فناوری اطلاعات از دفتر محلی شبکه ایکس توضیح خواسته و این پلتفرم را به ناتوانی در جلوگیری از سوءاستفاده از گروک متهم کرده است.
کارشناسان ایمنی هوش مصنوعی معتقدند این بحران قابل پیشبینی بوده است. به گفته آنها، ادغام مستقیم ابزارهای تولید تصویر با یک شبکه اجتماعی بزرگ، بدون ایجاد محدودیتهای فنی و نظارتی کافی، زمینه سوءاستفاده گسترده را فراهم کرده است. هشدارهای نهادهای مدنی و فعالان حوزه ایمنی کودکان نیز پیشتر نادیده گرفته شده بود.
سکوت ایکس و واکنش غیررسمی ماسک به انتقادها
در حالی که شبکه ایکس تاکنون واکنش رسمی به این اتهامات نشان نداده، شرکت xAI نیز گزارشهای مشابه را پیشتر رد کرده بود. ایلان ماسک نیز در واکنشهای پراکنده خود در شبکه ایکس، بیشتر لحنی طنزآمیز و غیررسمی داشته است؛ موضوعی که انتقادها را نسبت به بیتوجهی به پیامدهای اجتماعی و روانی این تصاویر جعلی افزایش داده است.
پیامدهای اجتماعی و ضرورت مسئولیتپذیری پلتفرمها
قربانیان این تصاویر جعلی میگویند پیامدهای روانی، اجتماعی و حتی شغلی این محتواها بسیار جدی است. کارشناسان تأکید میکنند بحران اخیر بار دیگر ضرورت تدوین قوانین سختگیرانهتر برای کنترل خروجیهای هوش مصنوعی و مسئولیتپذیری پلتفرمها را برجسته کرده است.
گروک اکنون در مرکز یکی از بزرگترین چالشهای اخلاقی و حقوقی هوش مصنوعی قرار گرفته و انتظار میرود فشارهای بینالمللی برای اصلاح عملکرد این ابزار و ایجاد سازوکارهای نظارتی مؤثرتر افزایش یابد.
مهدی رضایی
او فارغالتحصیل رشته مهندسی نرمافزار است و فعالیت حرفهای خود را در عرصه رسانه از سال ۱۳۹۷ به عنوان نویسنده در یک وبلاگ تخصصی فناوری آغاز کرده است. وی پس از کسب تجربه، به خبرگزاریهای معتبر پیوست و در حال حاضر، خبرنگار حوزه نرمافزار و هوش مصنوعی در یک مجله تکنولوژی برجسته است.
مطالب پیشنهادی :
مسابقات بینالمللی هوش مصنوعی و برنامهنویسی «رایان» با حضور بیسابقه جهانی به ایستگاه پایانی رسید
افزایش حساسیتها نسبت به تبلیغات تلگرام در کانالهای پربازدید
“گوگل پیکسل 9 در مقابل پیکسل 8: آیا ارتقا ارزش دارد؟”
“مستقیم از اپل پارک – نسخه iPhone 16 پادکست TechRadar منتشر شد که شامل دو مهمان ویژه است.”