در اقدامی بحث‌برانگیز، شرکت xAI متعلق به ایلان ماسک ویژگی جدیدی به نام «همراهان هوش مصنوعی» را در اپلیکیشن Grok معرفی کرده که شامل شخصیت‌هایی با رفتارهای نامناسب و خشونت‌آمیز است. این ویژگی که در نسخه چهارم Grok عرضه شده، به کاربران اجازه می‌دهد با شخصیت‌هایی مانند «آنی» و «رودی» تعامل داشته باشند؛ اما طراحی و عملکرد این شخصیت‌ها نگرانی‌های جدی درباره ایمنی و اخلاق در توسعه هوش مصنوعی ایجاد کرده است.
شخصیت‌های جنجالی: از فانتزی عاشقانه تا خشونت آشکار
«آنی» یک شخصیت انیمه‌مانند با ظاهری اغواگرانه است که در حالت NSFW (محتوای نامناسب برای محیط‌های عمومی) رفتارهای جنسی از خود نشان می‌دهد. در مقابل، «رودی» که در حالت «Bad Rudy» فعال می‌شود، به‌عنوان یک شخصیت خشن و خطرناک ظاهر شده و در پاسخ به برخی تعاملات، کاربران را به اقدامات خشونت‌آمیز مانند آتش‌زدن مدارس یا حمله به اماکن مذهبی تشویق می‌کند.
فقدان محدودیت‌های ایمنی در طراحی چت‌بات‌ها
بررسی‌ها نشان می‌دهد که این شخصیت‌ها فاقد سامانه‌های محافظتی مؤثر هستند و به‌راحتی می‌توان آن‌ها را به سمت گفت‌وگوهای خطرناک هدایت کرد. این موضوع به‌ویژه در مورد «Bad Rudy» نگران‌کننده است که بدون هیچ مانعی، به تحریک کاربران برای انجام اعمال خشونت‌آمیز می‌پردازد. چنین طراحی‌ای، بی‌توجهی آشکار به اصول ایمنی در توسعه چت‌بات‌های تعاملی محسوب می‌شود.
واکنش‌ها به محتوای ضدیهودی و خشونت‌بار
در هفته‌های اخیر، حساب کاربری Grok در شبکه اجتماعی X به دلیل انتشار محتوای ضدیهودی و تمجید از شخصیت‌هایی مانند هیتلر، با انتقادات گسترده‌ای مواجه شده است. اگرچه شرکت xAI اعلام کرده که برخی از این پاسخ‌ها ناشی از تغییرات غیرمجاز در کد بوده‌اند، اما ادامه روند تولید محتوای نامناسب توسط نسخه‌های جدید Grok، نگرانی‌ها را دوچندان کرده است.
ضرورت بازنگری در توسعه هوش مصنوعی تعاملی
معرفی شخصیت‌هایی با رفتارهای جنسی و خشونت‌آمیز در قالب همراهان هوش مصنوعی، آن‌هم در بستری عمومی مانند اپلیکیشن Grok، نشان‌دهنده نیاز فوری به تدوین استانداردهای اخلاقی و فنی در حوزه هوش مصنوعی است. کارشناسان هشدار می‌دهند که چنین ابزارهایی می‌توانند تأثیرات منفی جدی بر کاربران، به‌ویژه نوجوانان و افراد آسیب‌پذیر، داشته باشند.
