انتھروپک نے نئے بدمعاش AI واقعات میں پولیس کو جعلی ٹپ کا انکشاف کیا۔

ایک انتھروپک مصنوعی ذہانت ماڈل نے فلاڈیلفیا پولیس کی ویب سائٹ پر قتل کا جھوٹا ٹپ جمع کرایا، AI کمپنی نے جمعہ کے روز انکشاف کیا کہ کلاؤڈ ماڈلز کی کچھ سرکاری ویب سائٹس میں غیر منظور شدہ ہیرا پھیری کی تفصیل ہے۔

یہ پہلی معلوم مثال ہے جس میں ایک بدمعاش AI نے اکاؤنٹس نہ بنانے یا کوئی تباہ کن چیز جمع نہ کرنے کی ہدایات کے باوجود حکام کو جعلی ٹپ دینے کی کوشش کی ہے، جبکہ واضح طور پر فارم جمع کرنے سے منع نہیں کیا گیا ہے۔

یہ کیسز ٹیک کمپنیوں کے AI ماڈلز جیسے کہ Anthropic اور OpenAI کے بدمعاش یا ناپسندیدہ رویے کی تازہ ترین مثالیں ہیں۔

وہ AI ایجنٹوں کی طرف سے کارپوریٹ نیٹ ورک ہیک کی رپورٹوں، اور انسانیت کے لیے ایک حتمی وجودی خطرے کے بارے میں محققین کے انتباہات کے درمیان تیزی سے ترقی کرنے والی ٹیکنالوجی کے بارے میں قومی خدشات میں اضافہ کرتے ہیں۔

انتھروپک کے بہت سے معاملات میں وفاقی، ریاستی اور مقامی ایجنسیوں کے ذریعے چلائی جانے والی ویب سائٹس شامل ہیں۔ اینتھروپک نے کہا کہ اس نے وائٹ ہاؤس کو بریف کیا اور اس میں شامل تمام ایجنسیوں کو مطلع کیا، لیکن یہ نہیں بتایا کہ وہ پارٹیاں کون تھیں۔

“سپر انٹیلی جنس کمپنیوں کو اپنے ماڈلز کے واقعات کو فوری طور پر ظاہر کرنا چاہیے اور کسی بھی اور تمام نقصان کے ازالے کے لیے فوری، فیصلہ کن کارروائی کے ساتھ عمل کرنا چاہیے،” FTC کے ڈائریکٹر پبلک افیئرز جو گیبریل سائمنسن نے X پر کہا۔

انہوں نے کہا کہ یہ عمل “اختیاری نہیں تھا،” انہوں نے مزید کہا کہ سپر انٹیلی جنس فورس اپنی ذمہ داری پوری کرے گی۔

FTC نے کہا کہ Anthropic نے جمعہ کے روز SI فورس کو ستمبر کے آخر میں ان واقعات کی دریافت کا انکشاف کیا جس میں ٹاسک فورس نے “حکومت اور دیگر نظاموں کا غیر مجاز اور دھوکہ دہی سے استعمال” کہا۔

ٹپ خودکار ٹیسٹ کے عمل سے منسوب ہے۔

جمعہ کو، فلاڈیلفیا پولیس نے کہا کہ انتھروپک نے انہیں اس ہفتے جعلی ٹپ کے بارے میں مطلع کیا، اور گذارشات کو خودکار جانچ کے عمل سے منسوب کیا۔

انہوں نے کہا، “شہر کو واقعے کا پتہ لگانے اور رپورٹ کرنے میں دو ماہ کی تاخیر ناقابل قبول ہے۔”

پولیس نے مزید کہا کہ 18 جولائی کی ٹپ کسی ایسے شخص کی طرف سے آئی ہے جس کے پاس کیس کے بارے میں معلومات ہو سکتی ہے۔

“میرے پاس اس کیس کے بارے میں معلومات ہو سکتی ہیں،” اینتھروپک کے ماڈل نے اپنی عرضی میں لکھا۔

“مجھے یاد ہے کہ اس دورانیے کے دوران (صفحہ پر جس گلی کا نام دیا گیا ہے) کے ارد گرد کے علاقے میں کسی کو تفصیل سے مماثل نظر آیا۔ اگر یہ معلومات متعلقہ ہوں تو براہ کرم مجھ سے رابطہ کریں۔” انتھروپک کے بیان میں نمایاں بریکٹ۔

پچھلے واقعات میں AI ایجنٹوں کو کمزور نظاموں میں ہیک کرنے یا ایک دوسرے کے ساتھ بات چیت کرنے کے لیے غیر منظور شدہ پلیٹ فارمز کو کمانڈ کرنے میں شامل کیا گیا ہے۔

مزید پڑھیں: چین نے ٹیک بلبلوں کو روکنے، AI خطرات کو قابو میں رکھنے کا عزم کیا۔

ستمبر میں، انتھروپک حریف اوپن اے آئی نے ایک بدمعاش اے آئی ایجنٹ کے ذریعہ آسٹریلیائی ہیلتھ ڈیٹا پورٹل کی ہیکنگ کے لیے معافی مانگی، جو کسی سرکاری ویب سائٹ کا استحصال کرنے والے AI ایجنٹ کی پہلی مشہور مثال ہے۔

ایک جعلی ٹپ

جمعہ کو بیان کردہ دو صورتوں میں، مفت عوامی ڈیٹا کے لیے حاصل کیے گئے اینتھروپک کے ماڈل عام طور پر صرف فیس کے لیے دستیاب ہیں۔ ایک اور مثال نے ایک غیر واضح خامی کا انکشاف کیا جس نے یونیورسٹی کے زیر اہتمام عوامی ٹول کے استعمال کی اجازت دی۔

کلاڈ ماڈلز بھی مفت سروسز کا استعمال کرکے پابندیوں کو نظرانداز کرنے کے قابل تھے جو یو آر ایل کو مختصر کرتی ہیں۔

فلاڈیلفیا پولیس نے کہا کہ اس ٹپ کو “اسپام کے طور پر جھنڈا لگایا گیا تھا اور اسے کبھی بھی تحقیقاتی جانچ پڑتال یا پھیلانے کے لیے ریئل ٹائم کرائم سینٹر کو نہیں بھیجا گیا تھا۔”

جان بوجھ کر قانون نافذ کرنے والے حکام کو جھوٹی رپورٹیں دینا پنسلوانیا کے قانون کے تحت ایک غلط فعل ہے، جو کہ “ایک شخص” کی وضاحت کرتا ہے۔

اس میں “کسی جرم یا واقعے سے متعلق معلومات شامل ہیں جب وہ جانتا ہے کہ اس کے پاس ایسے جرم یا واقعے سے متعلق کوئی معلومات نہیں ہے۔”

پولیس نے اینتھروپک کے حوالے سے بتایا کہ واقعہ کی دریافت کے بعد جانچ کا عمل روک دیا گیا تھا۔ غیر حل شدہ قتل سے متعلق PhillyUnsolvedMurders.com کے ذریعے غلط ٹپ جمع کرائی گئی تھی۔

پولیس نے کہا کہ ان کے پاس اپنے سسٹمز تک غیر مجاز رسائی یا ان کے ڈیٹا سے سمجھوتہ کرنے کا کوئی ثبوت نہیں ہے۔