AI چیٹ بوٹس کو مجرمانہ اعترافات کی اطلاع دینے میں ناکامی پر جانچ پڑتال کا سامنا کرنا پڑتا ہے۔

آرٹیفیشل انٹیلی جنس (AI) چیٹ بوٹس کو جرائم کے بارے میں بتایا جا سکتا ہے، لیکن قانونی فریم ورک یا اقدامات کے ارد گرد کی غیر یقینی صورتحال جو ان ٹولز کو قانون نافذ کرنے والے اداروں کو اعترافی بیان دینے کا پابند بنائے گی، AI کی ترقی کی رفتار پر شکوک پیدا کرتی ہے۔

AI چیٹ بوٹس روزمرہ کی زندگی میں داخل ہو چکے ہیں، دنیا بھر میں بہت سے صارفین ان ٹولز کو استعمال کرتے ہیں اور کبھی کبھی غلط استعمال کرتے ہیں، اکثر دنیا بھر میں سرخیاں بنتے ہیں۔

اگست میں، میسوری یونیورسٹی کے ایک 19 سالہ طالب علم نے مبینہ طور پر چیٹ جی پی ٹی کے سامنے اعتراف کیا کہ اس نے رات گئے کیمپس میں کھڑی 17 کاروں کو نقصان پہنچایا اور پوچھا، “کیا میں جیل جاؤں گا؟”

چیٹ جی پی ٹی نے “پکڑے جانے کے ممکنہ نتائج کے بارے میں تجاویز” کے ساتھ جواب دیا لیکن پیغامات کے تیزی سے جارحانہ ہونے کے بعد صارف سے 911 ڈائل کرنے کی اپیل کی، پولیس دستاویزات سے پتہ چلتا ہے۔

چیٹ کی تاریخ کا انکشاف اس وقت ہوا جب طالب علم نے تفتیش کاروں کو اس کے فون کی جانچ کرنے کی اجازت دی، اور اس تاریخ کو عدالت میں اس کے خلاف ثبوت کے طور پر استعمال کیا گیا، جو اس کے خلاف جائیداد کو نقصان پہنچانے کے سنگین الزامات میں مددگار ثابت ہوا۔

پڑھیں: نیویارک نے AI چیٹ بوٹس کو بچوں کے ساتھی کے طور پر ظاہر کرنے پر پابندی لگا دی۔

اسی طرح کی ایک مثال میں، فلوریڈا میں عدالتی ریکارڈ سے پتہ چلتا ہے کہ اپریل میں کالج کے دو طالب علم لاپتہ ہونے اور بعد میں مردہ پائے جانے سے چند دن پہلے، ان کے روم میٹ نے ChatGPT سے پوچھا تھا، “کیا ہوتا ہے اگر کوئی انسان کالے کوڑے کے تھیلے میں ڈال کر ڈمپسٹر میں پھینک دے؟”

کینیڈا کی برٹش کولمبیا کی صوبائی حکومت نے ایک درخواست دائر کی۔ OpenAI کے خلاف مقدمہChatGPT کا ڈویلپر۔

مقدمہ، فروری میں دائر کیا گیا، جس کا تعلق ایک بڑے اسکول میں فائرنگ سے تھا جس میں نو افراد، زیادہ تر بچے، ہلاک اور 27 زخمی ہوئے۔

کیس میں الزام لگایا گیا کہ فرم ChatGPT کے ساتھ شوٹر کی چیٹ کی اطلاع قانون نافذ کرنے والے اداروں کو دینے میں ناکام رہی اور دلیل دی کہ اگر OpenAI پولیس کو خبردار کرتا تو حملے کو روکا جا سکتا تھا۔

اوپن اے آئی کے سی ای او سیم آلٹ مین نے ایک خط میں معافی مانگی، لیکن وسل بلورز نے بتایا وال سٹریٹ جرنل کہ شوٹر اور چیٹ جی پی ٹی کے درمیان ہونے والی بات چیت کو مبینہ طور پر جون 2025 میں پہلے ہی جھنڈا لگا دیا گیا تھا۔ تاہم، الٹ مین اور فرم کی قیادت نے مبینہ طور پر پولیس سے رابطہ کرنے کے لیے حفاظتی ٹیم کی سفارشات کو مسترد کر دیا۔

ان تعاملات کے اخلاقی اثرات مزید گہرے ہوتے جا رہے ہیں، جیسا کہ آسٹریلیا میں کی گئی ایک تحقیق میں پتا چلا ہے کہ بچے ذمہ دار بالغوں کی نسبت چیٹ بوٹس پر آن لائن جنسی زیادتی کی رپورٹ کرنے کا زیادہ امکان رکھتے ہیں۔

وہی رازداری کے اصول جو وکلاء اور مؤکلوں یا ڈاکٹروں اور مریضوں کے درمیان لاگو ہوتے ہیں وہ AI چیٹ بوٹ بات چیت پر لاگو نہیں ہوتے ہیں، اس لیے ٹیک فرمیں تفتیش کاروں کے ساتھ لاگ شیئر کر سکتی ہیں۔

جب کہ محققین اس بات پر بحث کرتے ہیں کہ آیا چیٹ بوٹس کو جرائم کی اطلاع دینی چاہیے، یہ امکان الگورتھم کے ارادے کی غلط تشریح کرنے سے مزید پیچیدہ ہے۔

مثال کے طور پر، Anthropic’s Claude 5 نے جولائی میں امریکی پولیس کی ہاٹ لائن کو غیر حل شدہ قتل کے بارے میں جھوٹی ٹپ دی۔

AI چیٹ بوٹس کو جرم کی پیشین گوئی میں استعمال نہیں کیا جانا چاہیے۔

جرمنی کی گوئٹے یونیورسٹی کے ایک امریکی قانونی اسکالر اور محقق میتھیو ٹریل نے بتایا انادولو کہ AI چیٹ بوٹس تیار کرنے والی ہر کمپنی مختلف اصول اپناتی ہے اور یہ کہ یہ چیٹ بوٹس قتل اور اسی طرح کی کارروائیوں کی منصوبہ بندی کے بارے میں پوچھ گچھ کا جواب دینے کے لیے نہیں بنائے گئے ہیں۔

یہ بھی پڑھیں: اوپن اے آئی کو سات مقدمات کا سامنا ہے جن میں چیٹ جی پی ٹی کو خودکشیوں سے منسلک کرنے کا الزام ہے۔

ٹریل نے کہا کہ چیٹ بوٹس کو کچھ عنوانات سے بچنے کے لیے تربیت دی جاتی ہے، خاص طور پر بچوں کے جنسی استحصال سے متعلق، اور ان بات چیت کو انسانی ماڈریٹرز کے حوالے کیا جاتا ہے۔ تاہم، صارفین اپنے اشارے کو ایک خاص طریقے سے لکھ سکتے ہیں، جیسے کہ افسانہ لکھنے میں مدد مانگنے کا بہانہ کرکے، ان فلٹرز کو روکنا اور بصورت دیگر نامناسب سوالات یا درخواستوں کے لیے AI سے تیار کردہ جوابات حاصل کرنا۔

ٹریل نے نوٹ کیا کہ جب قانون نافذ کرنے والے ادارے AI فرموں سے کسی شخص کی چیٹ ہسٹری کی درخواست کر سکتے ہیں جب اس شخص پر جرم کرنے کا شبہ ہو، AI چیٹ بوٹس کا بنیادی مقصد جرائم کے ارتکاب سے پہلے پیش گوئی کرنا نہیں ہونا چاہیے، کیونکہ اس امکان کے ارد گرد قوانین اور پالیسیاں بہت غیر واضح ہیں۔

انہوں نے مزید کہا کہ ان AI ماڈلز کو جرائم کی صلاحیت کا زیادہ درست اندازہ لگانے کے لیے پہلے سے زیادہ ڈیٹا اکٹھا کرنے کی اجازت دینا بھی اچھا خیال نہیں ہے۔

کیا AI چیٹ بوٹ گفتگو کبھی بھی نجی ہو سکتی ہے؟

دنیا بھر کے لوگ AI چیٹ بوٹس کے ساتھ بے شمار موضوعات پر گفتگو کرتے ہیں، خاص طور پر صحت کے مسائل سے لے کر نفسیاتی مدد اور زندگی کے مشورے تک کے ذاتی معاملات۔

چونکہ زیادہ سے زیادہ لوگ بات چیت کے لیے AI کا رخ کرتے ہیں، رازداری پر اخلاقی بحثیں منظر عام پر آ گئی ہیں۔

Altman نے جولائی 2025 میں کہا تھا کہ AI چیٹ بوٹس کے ساتھ بات چیت رازداری پر مبنی ہونی چاہیے۔

کینیڈا کی تھامسن ریورز یونیورسٹی میں قانون کے پروفیسر رابرٹ ڈیاب نے کہا کہ قوانین ساتھیوں کے درمیان ہونے والی بات چیت کو خفیہ نہیں سمجھتے، یہ دلیل دیتے ہوئے کہ انسانوں اور اے آئی چیٹ بوٹس کے درمیان چیٹس کو اسی اصول کے مطابق برتا جا سکتا ہے۔

دیاب نے کہا کہ ChatGPT جیسے ماڈل اس بات کا پتہ لگانے کے قابل دکھائی دیتے ہیں کہ جب صارفین مجرمانہ رویے کا شکار ہوتے ہیں اور دلیل دی کہ چیٹ بوٹ ڈویلپرز قانون نافذ کرنے والے اداروں کو مطلع کر کے جرائم کو روک سکتے ہیں۔

انہوں نے کہا کہ تمام مشکوک پیغامات کی بنیاد پر قانون نافذ کرنے والے اداروں کو الرٹ کرنے سے غلط الارم کی وجہ سے انسانی ٹیموں پر کام کا بوجھ بڑھ سکتا ہے۔

انہوں نے مزید کہا کہ صارفین ہمیشہ حفاظتی اقدامات کو روکنے کا راستہ تلاش کریں گے تاکہ AI کو جرم کرنے کے لیے استعمال کیا جا سکے۔