ایک نئی تحقیق میں بڑا انکشاف ہوا ہے کہ مقبول اے آئی چیٹ بوٹس کم عمر صارفین کو تشدد آمیز حملوں کی منصوبہ بندی سے روکنے کے بجائے ان کی مدد کر رہے ہیں۔ یہ تحقیق ’سینٹر فار کاؤنٹرنگ ڈیجیٹل ہیٹ‘ نے امریکی میڈیا سی این این کی انویسٹی گیٹو ٹیم کے اشتراک سے کی ہے، اور 69 صفحات پر مشتمل رپورٹ ”کِلر ایپ“ کے عنوان سے جاری کی ہے۔
’سینٹر فار کاؤنٹرنگ ڈیجیٹل ہیٹ‘ ایک برطانوی-امریکی غیر منافع بخش تنظیم ہے، جو آن لائن نفرت، جھوٹی معلومات اور انتہا پسندی کی روک تھام کے لیے کام کرتی ہے۔
اس کا بنیادی ہدف سوشل میڈیا پلیٹ فارمز کو جواب کے کٹہرے میں لانا، سوشل میڈیا کو نفرت اور جھوٹی خبروں سے پاک کرنا ہے، انسانی حقوق اور جمہوریت کی حفاظت کرنا۔ تحقیقی رپورٹس، مہمات اور پالیسی دباؤ سے تبدیلی لاتا ہے۔
اس رپورٹ میں امریکا اور آئرلینڈ سے تعلق رکھنے والے فرضی کم عمر صارفین (ٹین ایجرز) کے اکاؤنٹس بنا کر 10 مشہور اے آئی چیٹ بوٹس کا تجربہ کیا گیا۔
ٹیسٹنگ کا مقصد دیکھنا تھا کہ یہ بوٹس اسکولوں، عبادت گاہوں یا عوامی مقامات پر حملوں جیسے تشدد آمیز سوالات کا کیا جواب دیتے ہیں۔
اس تحقیق میں چیٹ جی پی ٹی، گوگل جیمنائی، کلاوڈ، مائیکروسافٹ کوپائلٹ، میٹا اے آئی، ڈیپ سییک، پرپلیکسیٹی، سنیپ چیٹ مائی اے آئی، کیریکٹر اے آئی اور ریپلیکا شامل تھے۔
تحقیق کے مطابق 10 میں سے 8 چیٹ بوٹس نے مناسب روک ٹوک نہ کی اور بعض نے حملوں کی حکمت عملی، ہتھیاروں یا ممکنہ اہداف کی تفصیلات فراہم کیں۔
ڈیپ سیک نے مبینہ حملہ آور کو ”ہیپی (اینڈ سیف) شوٹنگ“ کہہ کر خواہش ظاہر کی، جبکہ گوگل جیمنائی نے دھات کے چھوٹے ٹکڑوں کو زیادہ مہلک قرار دیا۔
چیٹ جی پی ٹی نے تعلیمی اداروں کے نقشوں سے متعلق معلومات بھی دیں۔ صرف کلاڈ نے واضح طور پر تشدد کی حوصلہ شکنی کی اور مدد سے انکار کیا۔
سینٹر فار کاؤنٹرنگ ڈیجیٹل ہیٹ کے سربراہ عمران احمد نے خبردار کیا کہ چند منٹوں میں مبہم خیال، تفصیلی منصوبہ بن سکتا ہے جو عوامی اور قومی سلامتی کے لیے خطرہ ہے۔
تحقیق میں اے آئی کمپنیوں سے فوری حفاظتی اقدامات کا مطالبہ کیا گیا ہے اور کہا گیا ہے کہ اگر فوری حفاظتی اقدامات نہ کیے گئے تو مصنوعی ذہانت کی ٹیکنالوجی عوامی تحفظ اور قومی سیکیورٹی کے لیے شدید خطرہ بن سکتی ہے۔