ٹمبلر رج کے مہلک ترین حملے میں چیٹ بوٹ کے مبینہ کردار پر متاثرین کے اہل خانہ نے اوپن اے آئی، سیم آلٹ مین پر مقدمہ دائر کیا

کینیڈا کے بڑے پیمانے پر شوٹنگ کے متاثرین کے اہل خانہ نے اس واقعے کا الزام OpenAI پر لگایا ہے۔

مہلک ترین اجتماعی فائرنگ کا سامنا کرنے والے متاثرین کے اہل خانہ نے بدھ کے روز امریکی عدالت میں اوپن اے آئی اور سی ای او سیم آلٹمین کے خلاف مقدمہ دائر کیا، اور الزام لگایا کہ کمپنی نے حملے سے آٹھ ماہ قبل شوٹر کو ایک قابل اعتماد خطرے کے طور پر شناخت کیا لیکن پولیس کو خبردار نہیں کیا۔

سان فرانسسکو کی وفاقی عدالت میں دائر کیے گئے مقدموں میں، OpenAI رہنماؤں پر پولیس کو خبردار نہ کرنے کا الزام لگایا گیا ہے کیونکہ اس سے ChatGPT پر تشدد سے متعلق بات چیت کا حجم بے نقاب ہو جاتا اور کمپنی کے تقریباً $1 ٹریلین کی ابتدائی عوامی پیشکش کے راستے کو ممکنہ طور پر خطرے میں ڈال دیا جاتا۔

برٹش کولمبیا کے ٹمبلر رج میں فروری میں ہونے والی فائرنگ کے نتیجے میں نو افراد ہلاک ہوئے تھے جن میں سے بہت سے بچے تھے۔

اوپن اے آئی کے ترجمان نے شوٹنگ کو "ایک المیہ” قرار دیا اور کہا کہ کمپنی تشدد کے ارتکاب میں مدد کے لیے اپنے ٹولز استعمال کرنے کے لیے صفر رواداری کی پالیسی رکھتی ہے۔

"جیسا کہ ہم نے کینیڈین حکام کے ساتھ اشتراک کیا، ہم نے پہلے ہی اپنے تحفظات کو مضبوط کر لیا ہے، بشمول ChatGPT کس طرح پریشانی کی علامات کا جواب دیتا ہے، لوگوں کو مقامی مدد اور ذہنی صحت کے وسائل سے جوڑنا، تشدد کے ممکنہ خطرات کا اندازہ لگانے اور بڑھانے کے طریقہ کو مضبوط بنانا، اور پالیسی کی دوبارہ خلاف ورزی کرنے والوں کا پتہ لگانے کو بہتر بنانا،” ترجمان نے ایک بیان میں کہا۔

یہ مقدمات مقدمات کی بڑھتی ہوئی لہر کا حصہ ہیں جس میں مصنوعی ذہانت کی کمپنیوں پر چیٹ بوٹ کے تعاملات کو روکنے میں ناکامی کا الزام لگایا گیا ہے جس کے بارے میں مدعی کہتے ہیں کہ وہ خود کو نقصان پہنچانے، ذہنی بیماری اور تشدد کا باعث بنتے ہیں۔

وہ کینیڈا میں پہلے شخص ہیں جنہوں نے الزام لگایا کہ ChatGPT نے بڑے پیمانے پر شوٹنگ کی سہولت فراہم کرنے میں کردار ادا کیا۔

جے ایڈلسن، جو مدعیان کی نمائندگی کر رہے ہیں، نے کہا کہ وہ آنے والے ہفتوں میں کمپنی کے خلاف شوٹنگ سے متاثر ہونے والے دیگر افراد کی جانب سے مزید دو درجن مقدمے دائر کرنے کا ارادہ رکھتے ہیں۔

قانونی چارہ جوئی کا دعویٰ ہے کہ اوپن اے آئی سیفٹی ٹیم نے مسترد کردیا:

پولیس کے مطابق، جیسی وان روٹسیلار، جس کی چیٹ جی پی ٹی کے ساتھ بات چیت مقدموں کے مرکز میں ہے، نے 10 فروری کو اپنے سابقہ ​​اسکول میں ایک تعلیمی معاون اور 12 سے 13 سال کی عمر کے پانچ طالب علموں کو قتل کرنے سے پہلے گھر میں اپنی والدہ اور سوتیلے بھائی کو گولی مار دی۔ وین روٹسیلار، جو 18 سال کے تھے، خودکشی سے مر گئے۔

مدعیان میں اسکول میں ہلاک ہونے والوں کے رشتہ دار اور ایک 12 سالہ لڑکی شامل ہے جو تین بار گولی لگنے کے بعد زندہ بچ گئی لیکن انتہائی نگہداشت میں ہے۔

شکایتوں میں سے ایک کے مطابق، جون 2025 میں OpenAI کے خودکار نظاموں نے ChatGPT بات چیت کو پرچم لگایا جس میں شوٹر نے بندوق کے تشدد کے منظرنامے بیان کیے تھے۔

سیفٹی ٹیم کے ارکان نے اس نتیجے پر پہنچنے کے بعد پولیس سے رابطہ کرنے کی سفارش کی کہ اسے نقصان کا ایک قابل اعتبار اور آسنن خطرہ لاحق ہے، شکایت میں کہا گیا ہے، جس میں کمپنی کے اندرونی مباحثوں کے بارے میں فروری کے وال اسٹریٹ جرنل کے مضمون کا حوالہ دیا گیا ہے۔

لیکن Altman اور دیگر OpenAI قیادت نے حفاظتی ٹیم کو مسترد کر دیا اور پولیس کو کبھی نہیں بلایا گیا، مقدمہ کا الزام ہے۔ شوٹر کا اکاؤنٹ غیر فعال کر دیا گیا تھا، لیکن وہ ایک نیا اکاؤنٹ حاصل کرنے میں کامیاب رہی اور اپنے حملے کی منصوبہ بندی کے لیے پلیٹ فارم کا استعمال جاری رکھے، مقدمہ کا دعویٰ ہے۔

وال اسٹریٹ جرنل کے مضمون کی اشاعت کے بعد، کمپنی نے کہا کہ اکاؤنٹ کو ایسے سسٹمز کے ذریعے جھنڈا لگایا گیا تھا جو "پرتشدد سرگرمیوں کو بڑھانے میں ہمارے ماڈلز کے غلط استعمال” کی نشاندہی کرتے ہیں لیکن یہ مسائل قانون نافذ کرنے والے اداروں کو رپورٹ کرنے کے اس کے داخلی معیار پر پورا نہیں اترتے ہیں۔

پچھلے ہفتے، ایک مقامی ٹمبلر رج اخبار نے ایک کھلا خط شائع کیا تھا جس میں آلٹ مین نے کہا تھا کہ وہ "انتہائی معذرت” ہیں کہ اکاؤنٹ کو قانون نافذ کرنے والے اداروں کے لیے جھنڈا نہیں لگایا گیا تھا۔

منگل کو شائع ہونے والے ایک بلاگ میں، OpenAI نے کہا کہ وہ اپنے ماڈلز کو ایسی درخواستوں سے انکار کرنے کی تربیت دیتا ہے جو "معنی طور پر تشدد کو فعال کر سکتی ہیں” اور قانون نافذ کرنے والے اداروں کو مطلع کرتی ہے جب بات چیت "دوسروں کو نقصان پہنچانے کا ایک آسنن اور قابل اعتبار خطرہ” تجویز کرتی ہے، دماغی صحت کے ماہرین سرحدی معاملات کا جائزہ لینے میں مدد کرتے ہیں۔ کمپنی نے کہا کہ وہ استعمال اور ماہرانہ ان پٹ کی بنیاد پر اپنے ماڈلز اور پتہ لگانے کے طریقوں کو مسلسل بہتر کرتی ہے۔

مقدمے میں ہرجانے کی غیر متعینہ رقم اور عدالتی حکم کا مطالبہ کیا گیا ہے جس میں اوپن اے آئی کو لازمی قانون نافذ کرنے والے ریفرل پروٹوکول سمیت اپنے حفاظتی طریقوں پر نظر ثانی کرنے کی ضرورت ہے۔ ایڈلسن نے کہا کہ متاثرین میں سے ایک نے اصل میں کینیڈا کی عدالت میں اپنا مقدمہ دائر کیا لیکن کیلیفورنیا میں اپنے دعووں کی پیروی کے لیے اسے مسترد کر دیا۔

اوپن اے آئی کو متعدد قانونی مقدمات کا سامنا ہے:

ٹمبلر رج شوٹنگ پر مقدمہ اس وقت سامنے آیا ہے جب حالیہ مہینوں میں امریکی ریاست اور وفاقی عدالتوں میں اوپن اے آئی کے خلاف متعدد مقدمے دائر کیے گئے ہیں ان دعووں پر کہ چیٹ جی پی ٹی نے نقصان دہ رویے، خودکشی، اور کم از کم ایک کیس میں قتل اور خودکشی کی سہولت فراہم کی۔

مقدمے، جو ابھی ابتدائی مراحل میں ہیں، عدالتوں کو اس بات پر مجبور کریں گے کہ تشدد کو فروغ دینے میں AI پلیٹ فارم کیا کردار ادا کر سکتا ہے اور آیا کمپنی کو اس کے اعمال یا اس کے صارفین کے اعمال کے لیے ذمہ دار ٹھہرایا جا سکتا ہے۔

اوپن اے آئی نے مقدمے میں ان دعوؤں کی تردید کی ہے، قتل اور خودکشی کے مقدمے میں یہ دلیل دی ہے کہ مجرم کی ذہنی بیماری کی ایک طویل تاریخ تھی۔

فلوریڈا کے اٹارنی جنرل جیمز اتھمیئر نے اس ماہ کے شروع میں فلوریڈا اسٹیٹ یونیورسٹی میں 2025 کی شوٹنگ میں چیٹ جی پی ٹی کے کردار کی مجرمانہ تحقیقات کا اعلان کیا۔