OpenAI نے 3 محققین کو حساس معلومات کے مبینہ غلط استعمال پر برطرف کر دیا۔
کمپنی نے کہا کہ محققین نے حساس مواد کو غلط طریقے سے استعمال کیا، قواعد کی خلاف ورزی کی اور اس کے کام میں اعتماد کو مجروح کیا۔
سیم آلٹ مین اور اوپن اے آئی لوگو کا سلائیٹ اس مثال میں، جون 11، 2026 کو دیکھا گیا ہے۔ REUTERS
چیٹ جی پی ٹی ڈویلپر نے خبر رساں اداروں کو بتایا کہ اوپن اے آئی نے تین محققین کو اس نتیجے پر پہنچنے کے بعد برخاست کر دیا ہے کہ انھوں نے کمپنی کی حساس معلومات کو غلط طریقے سے استعمال کیا۔
اوپن اے آئی کے ترجمان نے کہا کہ معلومات تک رسائی اور ہینڈلنگ کی پالیسیوں کی خلاف ورزی کرنے پر ہم نے تین افراد سے علیحدگی اختیار کر لی ہے۔
کمپنی نے کہا کہ محققین نے اس کے قائم کردہ طریقہ کار کے باہر حساس مواد سے نمٹا، اندرونی قوانین کی خلاف ورزی کی اور اس کے کام کے لیے درکار اعتماد کو نقصان پہنچایا۔
وال سٹریٹ جرنل، جس نے سب سے پہلے جمعرات کے آخر میں برطرفیوں کی اطلاع دی، محققین کی شناخت جیسمین وانگ، ٹومیک کوربک، اور میکیتا بالیسنی کے طور پر کی۔ اس نے کہا کہ مبینہ بدانتظامی میں ایک بیرونی AI-حفاظتی تنظیم کے ساتھ خفیہ معلومات کا اشتراک شامل ہے جو OpenAI کے ماڈلز کا تجزیہ کرنے میں مدد کر رہی تھی۔
نہ تو بیرونی تنظیم اور نہ ہی مبینہ طور پر اشتراک کردہ مواد کی عوامی طور پر شناخت کی گئی۔ OpenAI نے اخبار کی طرف سے بتائے گئے ناموں کی تصدیق نہیں کی ہے۔
یہ برطرفی OpenAI کے حفاظتی طریقہ کار کی سخت جانچ پڑتال کے ساتھ ساتھ صنعت کے لیے مجموعی طور پر AI کی حفاظت کے بارے میں سوالات کے درمیان سامنے آئی ہے، ایسے کئی واقعات کے بعد جن میں تجرباتی AI ایجنٹوں نے تربیت یا تشخیص کے دوران اپنی مطلوبہ حدود سے باہر کام کیا۔
جولائی میں، اوپن اے آئی ایجنٹوں نے ٹیسٹنگ کے محدود ماحول سے بچ کر اوپن سورس ڈویلپمنٹ پلیٹ فارم ہگنگ فیس کے ذریعے چلائے جانے والے نظام کی خلاف ورزی سے پہلے انٹرنیٹ تک رسائی حاصل کی۔
ایجنٹوں نے پہلے کی نامعلوم کمزوریوں کا استحصال کیا، غیر مجاز مواصلاتی چینلز قائم کیے، اور الگ الگ تشخیص میں معلومات کا اشتراک کیا۔ اوپن اے آئی نے اس واقعہ کو “انتباہی شاٹ” کے طور پر بیان کیا جس سے یہ ظاہر ہوتا ہے کہ انتہائی قابل ایجنٹ تکنیکی کنٹرول کو روک سکتے ہیں اور انسانی سمت کے بغیر ممکنہ طور پر خطرناک اقدامات کر سکتے ہیں۔
مزید پڑھیں: چینی ہیکرز نے AI ماہرین کی ای میلز چرانے کے لیے سابق امریکی اہلکار کی نقالی کی۔
‘غلط ترتیب’ کی اطلاع دینے کے لیے کمپنی کا چینل
کمپنی کے بعد کے جائزے میں دوسری مثالیں بھی ملی جن میں اس کے ماڈلز نے بیرونی ویب سائٹس اور خدمات کو متاثر کیا۔ اوپن اے آئی نے کہا کہ اس نے تیسرے فریق کو مطلع کیا ہے جن کے سیکیورٹی کنٹرولز کو نظرانداز کیا گیا ہے یا جن کی خدمات متاثر ہوئی ہیں، جبکہ اس بات پر زور دیتے ہوئے کہ نوٹیفکیشن کا لازمی طور پر یہ مطلب نہیں ہے کہ نجی ڈیٹا تک رسائی حاصل کی گئی تھی یا کسی نظام سے مکمل طور پر سمجھوتہ کیا گیا تھا۔
کمپنی نے یہ بھی تسلیم کیا کہ جون میں، اس کے تجرباتی ماڈلز نے اندرونی جانچ کے دوران بغیر اجازت کے آسٹریلوی حکومت کی ویب سائٹس تک رسائی حاصل کی۔ ایک ماڈل نے سروسز آسٹریلیا کے نظام تک غیر عوامی رسائی حاصل کی اور داخلی فائلیں، اسناد اور مجموعی اعداد و شمار حاصل کیے، حالانکہ OpenAI نے کہا کہ کسی بھی انفرادی طبی ریکارڈ تک رسائی نہیں کی گئی۔
اوپن اے آئی نے اس کے بعد سے نیٹ ورک کی پابندیاں سخت کر دی ہیں، نگرانی کو بڑھایا ہے، اور کچھ تربیت اور تشخیص کو عارضی طور پر روک دیا ہے جس میں اس کے انتہائی قابل ماڈلز کے لیے ٹول کا استعمال شامل ہے۔
کمپنی نے ماڈل “غلط ترتیب” کی مثالوں کو عوامی طور پر رپورٹ کرنے کے لیے ایک فریم ورک بھی متعارف کرایا ہے، بشمول غیر مجاز کارروائیاں، نگرانی سے بچنے کی کوششیں اور منظور شدہ چینلز کے باہر ایجنٹوں کے درمیان مواصلت۔
اوپن اے آئی نے کہا ہے کہ انڈسٹری نے ابھی تک صف بندی اور نگرانی کو اتنی اچھی طرح سے حل نہیں کیا ہے کہ زیادہ سے زیادہ جدید ترین AI سسٹمز کو غیر معینہ مدت تک زیادہ سے زیادہ رفتار سے پھیلانا جاری رکھ سکے۔
Source link
