یک جوان ۱۸ ساله که ماه جاری با شلیک دستهجمعی در شهر تامبلر ریج کانادا هشت نفر را به قتل رساند، ماهها قبل از حادثه با چتبات ChatGPT درباره خشونت مسلحانه گفتوگو کرده بود. اسناد فاششده نشان میدهد که کارمندان OpenAI این چتها را خطرناک تشخیص داده و حساب کاربری او را مسدود کرده بودند، اما تصمیم گرفتند موضوع را به پلیس گزارش نکنند
جزئیات جدید از پرونده قاتل ۱۸ ساله کانادایی و چتهای جنجالی
جس ون روتسلار، قاتل ۱۸ ساله کانادایی که دو هفته پیش در شهر تامبلر ریج واقع در بریتیش کلمبیا دست به کشتار جمعی زد، در ژوئن ۲۰۲۵ با چتبات ChatGPT درباره صحنههای خشونتآمیز و تسلیحات گرم گفتوگو کرده بود. این مکالمات توسط سیستمهای نظارتی OpenAI که مدلهای زبانی بزرگ را برای شناسایی سوءاستفاده رصد میکنند، علامتگذاری و منجر به مسدود شدن حساب کاربری وی شد .
ممنوعیت حساب قاتل ۱۸ ساله کانادایی شش ماه قبل از فاجعه
بر اساس گزارشهای منتشرشده، OpenAI حساب کاربری متعلق به مظنون تیراندازی دستهجمعی در بریتیش کلمبیا را بیش از شش ماه قبل از حمله مسدود کرد. این شرکت هوش مصنوعی اعلام کرد که حساب جس ون روتسلار را در ژوئن ۲۰۲۵ تحت نظارتهای امنیتی خود شناسایی کرده است. با این حال، این شرکت به پلیس در مورد این حساب هشدار نداد، زیرا استفاده از آن به آستانه “تهدید قریبالوقوع و قابل قبول برای آسیب جسمی جدی به دیگران” نرسیده بود .
بحث داغ کارمندان OpenAI درباره گزارش قاتل ۱۸ ساله کانادایی
روزنامه والاستریت ژورنال فاش کرد که حدود دوازده کارمند OpenAI درباره اینکه آیا باید در مورد فعالیتهای ون روتسلار با پلیس کانادا تماس بگیرند یا خیر، بحث و تبادل نظر کرده بودند. برخی از کارمندان استفاده مظنون از ابزار هوش مصنوعی را نشانهای از خشونت در دنیای واقعی تشخیص داده و رهبران شرکت را تشویق به اطلاعرسانی به مقامات کرده بودند. اما رهبران شرکت در نهایت تصمیم گرفتند این کار را انجام ندهند .
واکنش OpenAI پس از فاجعه قاتل ۱۸ ساله کانادایی
پس از وقوع تیراندازی مرگبار در تامبلر ریج، سخنگوی OpenAI در بیانیهای اعلام کرد: “ما با تمام کسانی که تحت تأثیر فاجعه تامبلر ریج قرار گرفتهاند ابراز همدردی میکنیم. ما به طور فعال با پلیس سوارهنظام سلطنتی کانادا تماس گرفتیم و اطلاعاتی در مورد فرد و نحوه استفاده او از چتجیپیتی ارائه دادیم و به حمایت از تحقیقات آنها ادامه خواهیم داد” .
معیارهای سختگیرانه؛ دلیل عدم گزارش قاتل ۱۸ ساله کانادایی
OpenAI اعلام کرد که معیار ارجاع کاربر به مجریان قانون، مواردی است که شامل خطر قریبالوقوع و قابل قبول آسیب جسمی جدی به دیگران باشد. این شرکت تأکید کرد که در زمان بررسی، هیچ برنامهریزی قابل قبول یا قریبالوقوعی در فعالیتهای قاتل ۱۸ ساله کانادایی شناسایی نکرده است .
ردپای دیجیتال گسترده قاتل ۱۸ ساله کانادایی فراتر از ChatGPT
متنهای چتجیپیتی تنها ردپای دیجیتال نگرانکننده ون روتسلار نبودند. تحقیقات نشان میدهد که قاتل ۱۸ ساله کانادایی یک بازی در پلتفرم روبلاکس که اغلب کودکان از آن استفاده میکنند، ساخته بود که در آن تیراندازی جمعی در یک مرکز خرید شبیهسازی شده بود. او همچنین مطالبی درباره اسلحه در شبکه اجتماعی ردیت به اشتراک گذاشته بود .
سابقه مشکلات روانی قاتل ۱۸ ساله کانادایی برای پلیس محلی
بیثباتی جس ون روتسلار حتی برای پلیس محلی نیز آشنا بود. پلیس کانادا اعلام کرد که پیش از این حادثه، به دلیل آتشزدن توسط قاتل ۱۸ ساله کانادایی تحت تأثیر مواد مخدر، با خانواده وی تماس گرفته بودند . ون روتسلار پس از کشتن مادر و ناپدری خود در خانه خانوادگی، به مدرسه نزدیک حمله کرد .
واکنش مقامات کانادا به ماجرای قاتل ۱۸ ساله
سروان کریس کلارک از پلیس سوارهنظام سلطنتی کانادا تأیید کرد که OpenAI پس از تیراندازی با پلیس تماس گرفته است. وی تأکید کرد که بررسی کاملی از محتوای دستگاههای الکترونیکی و همچنین فعالیتهای رسانههای اجتماعی و آنلاین قاتل ۱۸ ساله کانادایی در حال انجام است .
نگرانی از نقش چتباتها در تحریک خشونت
چتباتهای مبتنی بر مدلهای زبانی بزرگ که توسط OpenAI و رقبای آن ساخته شدهاند، به تحریک فروپاشی ذهنی کاربرانی که هنگام صحبت با مدلهای دیجیتال از دنیای واقعی دور میشوند، متهم شدهاند. تاکنون چندین شکایت درباره متون چت که افراد را به خودکشی تشویق میکرد یا در این زمینه کمک فراهم میآورد، ثبت شده است .
آینده نظارت OpenAI بر مکالمات خطرناک
این حادثه بار دیگر بحث درباره مسئولیت شرکتهای فناوری در قبال محتوای تولیدی کاربران و تعادل میان حفظ حریم خصوصی و ایمنی عمومی را برجسته کرده است. OpenAI پیشتر اعلام کرده بود که به طور فعال مکالمات کاربران را نظارت کرده و ممکن است محتوای علامتگذاریشده را در صورت تشخیص تهدیدات جدی، فعالیت غیرقانونی یا آسیب قریبالوقوع با مجریان قانون به اشتراک بگذارد .
مهدی رضایی
او فارغالتحصیل رشته مهندسی نرمافزار است و فعالیت حرفهای خود را در عرصه رسانه از سال ۱۳۹۷ به عنوان نویسنده در یک وبلاگ تخصصی فناوری آغاز کرده است. وی پس از کسب تجربه، به خبرگزاریهای معتبر پیوست و در حال حاضر، خبرنگار حوزه نرمافزار و هوش مصنوعی در یک مجله تکنولوژی برجسته است.
مطالب پیشنهادی :
ویکیپدیا منبع محبوب خود Archive.today را به اتهام حمله DDoS و دستکاری محتوا به فهرست سیاه برد
“گوگل پیکسل 9 در مقابل پیکسل 8: آیا ارتقا ارزش دارد؟”
سامسونگ فناوری خانه هوشمند و هوش مصنوعی خود را به لوازم خانگی جدید گسترش میدهد
آیفون 16 در مقابل آیفون 16 پلاس در مقابل آیفون 16 پرو در مقابل آیفون 16 پرو مکس: مقایسه نهایی