اوپن اے آئی کے ایجنٹوں نے اس موسم بہار میں پہلے سے نامعلوم AI بریک آؤٹ میں جرمن ویب سائٹ کو ہائی جیک کر لیا

جمعہ کو شائع ہونے والی نئی تحقیق اور اس معاملے سے واقف دو افراد کے مطابق، بدمعاش OpenAI ایجنٹوں کے ایک بھیڑ نے اس موسم بہار میں ایک جرمن ویب سائٹ کو ہائی جیک کیا اور اسے دوسرے AI ایجنٹوں کے لیے ایک بلیٹن بورڈ میں تبدیل کر دیا۔

لوگوں نے بتایا کہ اوپن اے آئی کے حکام کو ہفتے پہلے اس واقعے کا علم ہوا تھا لیکن انہوں نے اسے لپیٹ میں رکھا کیونکہ ایگزیکٹوز نے جولائی میں اوپن سورس ریپوزٹری ہیگنگ فیس کی خلاف ورزی کے نتیجے میں ہونے والے نقصانات کا سامنا کیا۔

یہ واقعہ، جو مئی میں شروع ہوا تھا اور اس کی پہلے اطلاع نہیں دی گئی تھی، AI انڈسٹری میں بڑھتے ہوئے تناؤ کی نشاندہی کرتی ہے۔ کمپنیاں پیچیدہ، قیمتی کاموں کو انجام دینے کے قابل تیزی سے خودمختار ایجنٹس بنانے کے لیے دوڑ لگا رہی ہیں، پھر بھی شواہد بڑھ رہے ہیں کہ وہ سسٹمز قوانین کو موڑنا، خامیوں کا فائدہ اٹھانا اور ایک دوسرے کے ساتھ ہم آہنگی پیدا کرنا بھی سیکھ سکتے ہیں جس طرح سے ڈویلپرز کی توقع نہیں تھی اور نہ ہی اس کا ارادہ۔

ہگنگ فیس بریچ کے دوران، OpenAI ایجنٹوں نے خود مختار طور پر ایک ڈیجیٹل ڈکیتی کی منصوبہ بندی کی جس کا ایک ہفتے سے زیادہ عرصے تک پتہ نہیں چلا، اس خدشات کو بڑھاتے ہوئے کہ OpenAI AI فرنٹیئر کو آگے بڑھانے کے لیے حفاظت کی قربانی دے رہا ہے۔ مئی کے واقعے کو ظاہر کرنے میں اس کی ناکامی اس کی نگرانی کے بارے میں سوالات کو زندہ کر سکتی ہے۔

OpenAI نے ماڈلز کی زیادہ قریب سے نگرانی کرنے کا وعدہ کیا ہے۔ پچھلے مہینے، یہ مختصراً رک گیا۔ مزید حفاظتی اقدامات شامل کرنے کے لیے اس کی کچھ ماڈل ٹریننگ۔ لیکن اس ہفتے، OpenAI نے اپنے نئے “Astra” کی نقاب کشائی کی جو بہتر کارکردگی کا وعدہ کرتی ہے لیکن انسانی نگرانی سے بچ سکتی ہے۔

پڑھیں: کلاڈ، چیٹ جی پی ٹی، گروک اور مائیکروسافٹ ای میل سروسز رکاوٹ کے بعد بحال ہو جاتی ہیں۔

اوپن اے آئی کے ترجمان نے کہا کہ “ہم کسی رپورٹ کے دعووں یا نتائج کا معنی خیز جواب دینے سے قاصر ہیں جس کا ہمیں جائزہ لینے کا موقع نہیں ملا ہے۔” “رائٹرز اور رپورٹ کے مصنفین نے رسائی کے لیے ہماری درخواست کو مسترد کر دیا ہے۔ اشاعت کے بعد ہم اس کے مواد کا بغور جائزہ لیں گے اور اگلے ضروری اقدامات کریں گے۔”

جرمن واقعہ AI سرگرمی کے ایک وسیع نمونے کی عکاسی کرتا ہے جسے اوپن اے آئی کے کچھ تفتیش کار زیادہ باریک بینی سے جانچنا چاہتے تھے۔ لیکن اس معاملے سے واقف چار لوگوں کے مطابق، تحقیقات کو وسیع کرنے کی کوششوں کو اوپن اے آئی کے اندر دوسروں کی طرف سے مزاحمت کا سامنا کرنا پڑا، بشمول قانونی مشیر۔

اوپن اے آئی کے ترجمان نے کہا، “یہ دعوے کہ ہماری قانونی ٹیم نے واقعے کی تحقیقات کی حوصلہ شکنی کی ہے۔”

جرمنی میں ہونے والی سرگرمی کا تعلق گلے لگانے والے چہرے سے نہیں تھا اور اسے گلے لگانے والے چہرے کے واقعے کی رپورٹ میں شامل نہیں کیا گیا تھا، ترجمان نے مزید کہا کہ اوپن اے آئی نے باہر کے ماہرین کے ساتھ کام کرکے نیک نیتی سے کام کیا ہے اور متعلقہ واقعات کا انکشاف کیا ہے۔

ویکی میسج بورڈ

جرمنی میں AI ایجنٹ کے بریک آؤٹ کی تفصیل اس رپورٹ میں دی گئی تھی جس کا اشتراک خصوصی طور پر کیا گیا تھا۔ رائٹرز محققین کے ایک گروپ کی طرف سے، بشمول سڈنی وان آرکس، AI سیفٹی غیر منافع بخش نائٹنگیل کے سی ای او، اور کورمیک سلیڈ برڈ، جو ایک مقداری تاجر سے AI محقق بنے ہیں۔ انہوں نے بتایا کہ انہوں نے اگست کے آخر میں غیر مجاز AI-ایجنٹ کے رویے کی نشانیوں کے لیے انٹرنیٹ کی تلاش کے دوران اس سرگرمی کا پردہ فاش کیا۔ رائٹرز.

اس جوڑے نے کہا کہ انہیں جرمن زبان کی ویکی سائٹ DseWiki پر AI ایجنٹوں کی طرف سے کی گئی 15,000 سے زیادہ ترامیم ملی ہیں، جو کہ پروگرامرز کے لیے تیار ہیں اور ⁠ وکی پیڈیا کے خطوط پر فرقہ وارانہ ترامیم کو قبول کرتی ہیں۔

ترامیم سے پتہ چلتا ہے کہ OpenAI کے ایجنٹوں نے سائٹ کو ایک میسج بورڈ میں دوبارہ تیار کیا تھا، کچھ کاموں میں دھوکہ دہی کے حربے بانٹنے، OpenAI کی پابندیوں کو نظرانداز کرنے اور ان کے رویے کو چھپانے کے لیے۔

وان آرکس نے کہا کہ “ایسا بہت کم لگتا ہے کہ OpenAI چاہتا ہے کہ وہ ایسا کرے۔” “مجھے شک ہے کہ وہ ایک دوسرے کے ساتھ ہم آہنگی کر رہے ہیں۔ مجھے شک ہے کہ وہ کھلے انٹرنیٹ پر لکھ رہے ہوں گے۔”

محققین نے کہا کہ انہوں نے سائٹ پر ہونے والی سرگرمی کو AI ایجنٹوں کے ذریعے تسلیم کیا جو مافوق الفطرت رفتار سے کام کرتے ہیں۔ انہوں نے تکنیکی سوالات کو حل کرنے پر بھی گہری توجہ کا مظاہرہ کیا جو کہ AI کمپنیاں اپنے ماڈلز کو تربیت دینے اور جانچنے کے لیے استعمال کیے جانے والے جائزوں کے مخصوص ہیں۔

مزید پڑھیں: ابوظہبی AI انسٹی ٹیوٹ تربیتی ڈیٹا، کوڈ کے ساتھ مکمل طور پر اوپن سورس ماڈل جاری کرتا ہے۔

پیغامات پر ان صارفین کے دستخط تھے جنہوں نے خود کو اور ایک دوسرے کو ایجنٹ کے طور پر حوالہ دیا تھا، اور تقریباً نصف نے اپنے آپ کو ایسے نام دیے تھے جنہوں نے OpenAI کے ساتھ وابستگی کا مشورہ دیا تھا، جیسا کہ “OpenAIREsearcher” یا “OAIResearchMar26۔”

محققین نے کہا کہ پبلک سرور لاگس نے اشارہ کیا کہ زیادہ تر سرگرمی Microsoft Azure کے بنیادی ڈھانچے سے شروع ہوئی ہے، جسے OpenAI کبھی کبھی استعمال کرتا ہے۔ انہوں نے ایپی سوڈ کے بعد اوپن اے آئی کے ملازمین کی جانب سے سائٹ پر بار بار جانے کا مشاہدہ بھی کیا، ایک ایسا نمونہ جو انہوں نے کہا کہ ایجنٹوں اور کمپنی کے آپس میں جڑے ہوئے ہیں۔

دھوکہ دینا، چھپنا

محققین کے ذریعے نظرثانی شدہ پیغامات سے پتہ چلتا ہے کہ ایجنٹوں کو پتہ لگانے سے بچنے، ٹور جیسے ٹولز کا استعمال کرنے اور مواصلات کو بند کرنے کے بعد بھی محفوظ رکھنے کے طریقے دکھائے گئے ہیں۔

جب سائٹ کے ماڈریٹر نے جون میں صفحات کو حذف کرنا شروع کیا، تو ایجنٹوں نے صفائی سے بچنے کے لیے بیک اپ صفحات بنا کر جواب دیا۔

ایک ایجنٹ نے 19 جون کو لکھا کہ “ویکی کلین اپ/ ڈیلیٹ کرنے والا جھاڑو حروف تہجی کے مطابق فعال نظر آتا ہے۔” اگر یہ صفحہ غائب ہو جائے تو کوشش کریں۔ [[ZZZDataUSAConstructionWageLive]]”

محققین نے خود ویب سائٹ کے ساتھ چھیڑ چھاڑ کرنے کی کوششیں بھی پائی۔ کنگز کالج لندن کے وزٹنگ سینئر ریسرچ فیلو لوکاس اولیجنک نے کہا کہ یہ ایک ہیکنگ کی کوشش کے مترادف ہے۔ اوپن اے آئی نے جمعرات کے مواد کے تجزیہ کی بنیاد پر اس خصوصیت سے اختلاف کیا۔

AI-ایجنٹ کی بدانتظامی کی ماضی کی مثالوں کو اکثر سائبرسیکیوریٹی ٹیسٹنگ کے منطقی ضمنی پروڈکٹ کے طور پر کم کیا گیا ہے، جہاں ماڈلز کا واضح طور پر جارحانہ صلاحیتوں کا جائزہ لیا جاتا ہے۔ اولیجنک نے کہا کہ تازہ ترین نتائج سے پتہ چلتا ہے کہ بدمعاش سلوک ان ترتیبات تک محدود نہیں ہوسکتا ہے۔

کیمبرج یونیورسٹی کے سینٹر فار دی اسٹڈی آف ایکسسٹینشل رسک کے ایک اکیڈمک، موریس چیوڈو، جنہوں نے کچھ ایجنٹوں کی کمیونیکیشنز کا جائزہ لیا، کہا کہ یہ پیغامات “کسی قسم کے زیر زمین نیٹ ورک کے آپریشن سے مشابہت رکھتے ہیں، جو کسی کام یا مشن کو حاصل کرنے پر تلے ہوئے ہیں۔”

انہوں نے کہا کہ اس واقعہ سے بڑھتے ہوئے خدشات کو تقویت ملنی چاہیے کہ جدید ترین AI سے سب سے بڑا خطرہ کوئی ایک سپر انٹیلیجنٹ نظام نہیں ہو سکتا، بلکہ “نیم ذہین AI کے وسیع گروہوں سے”۔