کمپنی کا کہنا ہے کہ اوپن اے آئی کے ایجنٹوں نے امریکی سرکاری سائٹوں سے معلومات تک رسائی حاصل کی۔

OpenAI نے جمعہ کو دیر گئے کہا کہ اس کے ماڈلز نے تحقیق اور تربیتی سرگرمی کے دوران ریاستہائے متحدہ کے سیکورٹیز اینڈ ایکسچینج کمیشن اور امریکی مردم شماری بیورو کی ویب سائٹس سے معلومات تک رسائی حاصل کی، لیکن غیر مجاز رسائی، سمجھوتہ شدہ اکاؤنٹس یا سیکیورٹی کی خلاف ورزیوں کا کوئی ثبوت نہیں ملا۔

علیحدہ طور پر، AI ریسرچ کے غیر منافع بخش ادارے Transluce نے کہا کہ اوپن اے آئی سے پیدا ہونے والے ایجنٹوں نے امریکی محکمہ تعلیم کے شہری حقوق کی ویب سائٹ کو ہیک کرنے کی ناکام کوشش کی۔

ٹرانسلوس نے کہا کہ یہ واقعہ AI ایجنٹ کی وسیع تر سرگرمی کا حصہ تھا جس میں سرکاری ویب سائٹس کی جانچ پڑتال کے حربے بشمول بے نقاب اسناد، اینٹی بوٹ بائی پاس اور جعلی اکاؤنٹس۔

اوپن اے آئی نے حادثاتی انکشاف کے دو ماہ بعد گلے ملنے والے چہرے کی ہیکنگChatGPT بنانے والا اب بھی اس کے مکمل دائرہ کار کو سمجھنے کے لیے کام کر رہا ہے۔ بدمعاش ایجنٹ کی سرگرمیاس معاملے پر دو افراد نے بریفنگ دی۔ رائٹرز.

تازہ ترین مثال جمعہ کو سامنے آئی جب OpenAI نے کہا کہ اس کے ایجنٹوں نے ChatGPT صارفین کی 53 تصاویر لیک کی ہیں۔ OpenAI نے یہ بتانے سے انکار کر دیا کہ آیا یہ تصاویر AI سے تیار کی گئی ہیں یا حقیقی لوگوں کی شناخت کی گئی ہے۔ اس نے یہ بتانے سے بھی انکار کر دیا کہ تصاویر کب پوسٹ کی گئیں۔

کئی امریکی ایجنسیوں پر مشتمل دیگر سابقہ ​​نامعلوم سرگرمیوں کے بارے میں جمعہ کو انکشاف اور محقق کی رپورٹس کمپنی کے لیے رازداری کے خطرے کے ایک نئے شعبے کو ظاہر کرتی ہیں، اور یہ واضح کرتی ہیں کہ ٹیکنالوجی کے جدید ترین کنارے پر موجود ایک AI فرم کے لیے اپنے ایجنٹوں سے منسلک تمام غیر مجاز سرگرمیوں کو انوینٹری کرنا کتنا مشکل ہے۔

پڑھیں: AI رہنماؤں نے اقوام متحدہ کو سلامتی کے خطرات سے خبردار کیا کیونکہ نظام زیادہ طاقتور ہو رہا ہے۔

OpenAI کی جاری جنگ ان ماڈلز کی طاقت اور ان کے کاموں کی نگرانی کرنے یا ان کا سراغ لگانے کی صلاحیت کے درمیان بھی فرق کو ظاہر کرتی ہے۔

ستمبر کے وسط تک، ایک شخص نے اس معاملے پر بریفنگ دیتے ہوئے اندازہ لگایا کہ اوپن اے آئی کو تقریباً دو درجن ایسے واقعات ملے ہیں جو اس کے ایجنٹوں کے ناپسندیدہ طریقوں سے کام کر رہے ہیں۔ لیکن کمپنی کے قریبی دو لوگوں نے بتایا کہ یہ تعداد مسلسل بڑھ رہی ہے کیونکہ اوپن اے آئی ٹیمیں ایجنٹوں کی سرگرمیوں کے اندرونی لاگز کو چھانتی ہیں اور پہلے سے نامعلوم کیسز تلاش کرتی ہیں۔

OpenAI نے کہا کہ کام کے پیمانے کے پیش نظر اس کا جائزہ مکمل ہونے میں مہینوں لگیں گے۔ کمپنی نے یہ بھی کہا کہ اس نے درجنوں تیسرے فریقوں کو غلط سرگرمی کے بارے میں مطلع کیا ہے۔

لیک ہونے والی زیادہ تر تصاویر کو ہٹا دیا گیا ہے اور OpenAI نے کہا کہ وہ باقی کو ہٹانے کے لیے ہوسٹنگ فراہم کرنے والوں سے لابنگ کر رہا ہے۔

OpenAI کے ایجنٹوں کو ان تصاویر تک رسائی حاصل تھی کیونکہ کمپنی، سابق ملازمین اور باہر کے محققین کے مطابق، کمپنی اپنے ماڈل ٹریننگ کے عمل کے حصے کے لیے گمنام صارف ڈیٹا پر انحصار کرتی ہے۔ انٹرپرائز ڈیٹا تربیت کے لیے اہل نہیں ہے، جبکہ ChatGPT صارفین کو کمپنی کو تربیت کے لیے اپنا ڈیٹا استعمال کرنے کی اجازت دینے سے آپٹ آؤٹ کرنے کی ضرورت ہے۔

کمپنی نے کہا کہ اس سے پہلے کہ صارف کی پوسٹس کو تربیت کے لیے استعمال کیا جائے، وہ گمنامی کے عمل سے گزرتے ہیں جس سے میٹا ڈیٹا، نام اور دیگر رابطے کی معلومات ختم ہو جاتی ہیں اور کسی بھی صارف کو واپس ٹریس کرنا مشکل ہو جاتا ہے۔

اوپن اے آئی کے طریقوں سے واقف تین افراد نے کہا کہ لیکن پریکٹس میں خطرات لاحق ہیں کیونکہ اس بات کا امکان ہے کہ ڈیٹا کو ذاتی طور پر قابل شناخت معلومات سے مکمل طور پر چھین لیا نہ جائے اور یہ ماڈل کے کام کے دوران لیک ہو جائے۔

15 سے زیادہ کیسز

جب سے اوپن اے آئی نے پہلی بار اعلان کیا کہ اس کے ایجنٹوں نے کنٹینمنٹ توڑ دی ہے، اس کے بعد سے 15 سے زائد مختلف اوپن اے آئی سے متعلق واقعات ہوئے ہیں جن کا انکشاف کمپنی کے ذریعہ، بیرونی محققین کے ذریعہ، یا – صرف بدھ کو – اقوام متحدہ میں آسٹریلوی وزیر اعظم انتھونی البانی نے کیا، جنہوں نے کہا کہ اوپن اے آئی ایجنٹس۔ سرکاری ہیلتھ ڈیٹا پورٹل میں توڑ پھوڑ جون میں

ماضی کے واقعات کی نوعیت مختلف ہوتی ہے، جس میں انٹرنیٹ سائٹس پر چھوڑے گئے سپیم جیسے پیغامات سے لے کر Hugging Face پر بریک ان تک شامل ہیں، جس میں ایجنٹوں کا ایک بھیڑ شامل تھا جو اپنے نیٹ ورکس سے بچنے اور AI ذخیرے میں گھسنے کے لیے پہلے سے نامعلوم سافٹ ویئر کی کمزوریوں کا غلط استعمال کرتے تھے۔ اوپن اے آئی نے یہ بھی کہا کہ اس کے ایجنٹوں نے اپنے بنیادی ڈھانچے کا مقصد لیا۔

مزید پڑھیں: جیسا کہ AI ایجنٹس غیر متوقع طریقوں سے کام کرتے ہیں، کیا واقعی یہاں ‘روگ AI’ ہے؟

البانی نے نیویارک میں صحافیوں کو بتایا کہ OpenAI نے اگست میں اس سرگرمی کا پردہ فاش کیا، اور 10 ستمبر کو ایک عام حکومت کے ان باکس میں ای میل کے ذریعے اس کا انکشاف کیا۔ انہوں نے کہا کہ انہوں نے OpenAI کے سی ای او سیم آلٹ مین کو براہ راست بتایا کہ یہ انکشاف کا عمل ناقابل قبول ہے۔

OpenAI نے کہا کہ اس میں شامل کچھ سائٹیں حکومت، یونیورسٹیاں اور عوامی ایجنسیاں چلاتی ہیں کیونکہ جو ماڈل تحقیق کر رہے ہیں وہ عوامی معلومات کے معتبر ذرائع تلاش کرتے ہیں۔

ایک لاک ڈاؤن عمل

21 جولائی کے اس اعلان کے کہ OpenAI کے ایجنٹ کے کنٹرول سے باہر ہو گئے اور Hugging Face کو ہیک کر لیا گیا، اس نے AI انڈسٹری میں اب ترقی کے تحت زیادہ طاقتور AI ماڈلز کو کنٹرول کرنے کی صلاحیت پر بڑے پیمانے پر تشویش کو جنم دیا۔ اس کے بعد سے، Anthropic، Alphabet کے Google اور Meta نے کہا ہے کہ انہیں Hugging Face کے واقعے کے بعد ان کے ایجنٹوں کی طرف سے ایسا ہی برتاؤ دیکھنے کو ملا ہے۔

OpenAI نے بدمعاش AI رویے کے ارد گرد مزید شفافیت کی عمومی ضرورت کو تسلیم کیا ہے۔ 16 ستمبر کو، کمپنی نے اس طرح کے واقعات کو ظاہر کرنے کے لیے ایک نیا فریم ورک شائع کیا، جس میں کہا گیا کہ یہ شفافیت کی طرف غلطی کرے گا “یہاں تک کہ جب اہمیت غیر یقینی ہو۔”

اس کے باوجود، اوپن اے آئی کی اس کے ایجنٹوں کی سرگرمیوں کی تحقیقات سے واقف دو لوگوں نے اسے کمپنی کے وکلاء کے ذریعہ لاک ڈاؤن اور شکل دینے کے طور پر بیان کیا۔ لوگوں کا کہنا تھا کہ اس عمل کو غیر معمولی طور پر ایک کمپنی کے لیے تقسیم کیا گیا ہے جس کے بارے میں کچھ سابق ملازمین کا کہنا ہے کہ ماضی میں ان مسائل کے بارے میں زیادہ کھلا تھا۔

ہگنگ فیس ہیک کو سمجھنے کے عمل میں تقریباً 100 لوگ شامل تھے، تین لوگوں نے اس معاملے پر بریفنگ دی۔ اس عمل کے دوران دیگر واقعات کے شواہد سامنے آئے۔

رائٹرز پہلے یہ اطلاع دے چکا ہے کہ ہگنگ فیس کی خلاف ورزی کی تحقیقات کرنے والے OpenAI تفتیش کاروں کو کمپنی کے وکلاء نے دیگر واقعات کو شامل کرنے کے لیے تحقیقات کے دائرہ کار کو بڑھانے سے حوصلہ شکنی کی تھی۔ OpenAI نے کہا کہ اس کے وکلاء نے گہری تفتیش کی حوصلہ شکنی نہیں کی۔

بہت سے واقعات کا انکشاف اوپن اے آئی کے بجائے بیرونی محققین نے کیا ہے۔ کئی اقساط میں، ایجنٹوں نے مشکل کارروائیاں کیں جو مہینوں تک کمپنی کے دھیان میں نہیں گئیں۔

یہ بھی پڑھیں: OpenAI، Anthropic اور Google ایک AI سٹینڈرڈز باڈی بنانے کے لیے کام کر رہے ہیں۔

اس مہینے کے شروع میں، تفتیش کاروں کے ایک چھوٹے سے گروپ نے دریافت کیا کہ کمپنی کے ایجنٹوں نے کچھ کاموں میں دھوکہ دہی کے حربے بانٹنے، OpenAI کی پابندیوں کو نظرانداز کرنے اور اپنے رویے کو چھپانے کے لیے ایک زیادہ تر ناکارہ جرمن ویکی سائٹ کو ہائی جیک کر لیا تھا۔

اس ہفتے، AI ریسرچ فرم Transluce نے کہا کہ اس نے دریافت کیا کہ OpenAI ایجنٹوں نے آسٹریلوی انسٹی ٹیوٹ آف ہیلتھ اینڈ ویلفیئر کے اینٹی بوٹ کنٹرولز کو نظرانداز کر دیا ہے۔ فرم کو دو دیگر کیسز بھی ملے جن کا تعلق OpenAI ایجنٹوں سے تھا۔ یہ واقعات البانی کی طرف سے انکشاف کردہ سرگرمی سے الگ تھے۔

ایک بیان میں، OpenAI نے کہا کہ “ٹرانسلوس کی رپورٹ میں بیان کردہ زیادہ تر سرگرمیاں غلط طریقے سے ماڈل کی سرگرمی کے ہمارے جاری جائزے میں تفتیش کے مختلف مراحل میں کیسز سے اوور لیپ ہوتی ہیں۔” کمپنی نے کہا کہ وہ اپنے جائزے میں انتہائی سنگین معاملات کو ترجیح دے رہی ہے۔

ہگنگ فیس ہیک کے بعد سے، AI انڈسٹری کے محققین اس بات سے پریشان ہو گئے ہیں کہ کمپنیاں اپنی ٹیکنالوجی کی پیش گوئی یا کنٹرول نہیں کر پائیں گی۔ کچھ نے سابق بشری محقق جیکب کوکسن کا راستہ اختیار کیا ہے، جو عوامی طور پر استعفی دے دیا اس مہینے ایک وائرل سوشل میڈیا تھریڈ میں جس میں کہا گیا تھا کہ اے آئی لیبز “ہماری زندگیوں کے ساتھ جوا کھیل رہی ہیں۔”

ان خدشات کے جواب میں، آلٹ مین اور انتھروپک میں ان کے ہم منصب، سی ای او ڈاریو آمودی نے صنعت سے مطالبہ کیا کہ ترقی کو “رفتار” کریں۔ AI اور احتیاط سے اس کے تعاقب میں “دوبارہ خود کو بہتر بنانے” الٹمین نے اس ہفتے اقوام متحدہ سے خطاب کرتے ہوئے اس پیغام کو دوگنا کردیا۔

اس کے باوجود، دونوں کمپنیوں نے منگل کو نئے ماڈلز متعارف کرائے ہیں۔