اوپن اے آئی نے ‘وکی واقعے’ کو تسلیم کیا، غیر ارادی AI رویے کے ارد گرد مزید شفافیت کا مطالبہ کیا
اوپن اے آئی کو جرمن واقعے کے بارے میں ہفتوں پہلے معلوم تھا لیکن ہگنگ فیس کی خلاف ورزی کے نتیجے میں اسے خفیہ رکھا
سیم آلٹ مین اور اوپن اے آئی لوگو کا سلائیٹ اس مثال میں، جون 11، 2026 کو دیکھا گیا ہے۔ REUTERS
اوپن اے آئی نے ہفتے کے روز کہا کہ اس کے ایجنٹوں نے ویکی سائٹس کو فوری طور پر میسج بورڈز کے طور پر مختص کیا ہے، انہوں نے مزید کہا کہ اس طرح کے واقعات کے بارے میں مزید شفافیت کی ضرورت ہے۔
بیان مندرجہ ذیل ہے a رائٹرز رپورٹ میں کہا گیا ہے کہ OpenAI ایجنٹوں کے ایک گروہ نے اس سال کے شروع میں ایک فرقہ وارانہ ترمیم شدہ جرمن سائٹ کو ہائی جیک کر لیا تھا اور اسے ٹیسٹ کے دوران دھوکہ دہی اور دیگر بدمعاش رویے کے لیے اسپرنگ بورڈ کے طور پر استعمال کیا تھا۔
یہ انکشاف اس وقت سامنے آیا ہے جب جولائی میں ہونے والے ایک واقعے کے بعد AI کے تحفظ کے خدشات شدت اختیار کر گئے ہیں جس میں OpenAI ایجنٹس ٹیسٹنگ ماحول سے بچ گئے اور AI پلیٹ فارم کے نظام کی خلاف ورزی کی۔ گلے ملنے والا چہرہخود مختار AI نظاموں کی سخت نگرانی کے لیے قانون سازوں اور محققین کی طرف سے کالز کا اشارہ کرنا۔
اوپن اے آئی کے حکام کو جرمن واقعے کے بارے میں ہفتے پہلے معلوم ہوا تھا لیکن انہوں نے اسے لپیٹ میں رکھا کیونکہ ایگزیکٹوز نے ہیگنگ فیس کی خلاف ورزی کے نتیجے میں ہونے والے نقصان سے گریز کیا۔ رائٹرز پہلے اطلاع دی ہے۔
اوپن اے آئی نے فوری طور پر کوئی پیغام واپس نہیں کیا جس میں مزید تفصیلات طلب کی گئیں کہ کمپنی اس کے بارے میں کیا جانتی ہے جسے اس نے “وکی واقعہ” کے طور پر بیان کیا ہے، یا اس کے بعد تک اس نے کیوں انتظار کیا۔ رائٹرز عوامی طور پر اس پر بحث کرنے کی کہانی۔
مزید پڑھیں: اوپن اے آئی کے ایجنٹوں نے اس موسم بہار میں پہلے سے نامعلوم AI بریک آؤٹ میں جرمن ویب سائٹ کو ہائی جیک کر لیا
سوشل میڈیا سائٹ X پر پوسٹ کیے گئے ایک بیان میں، OpenAI نے کہا کہ اسے، اور دوسروں کو، AI کی طرف سے غیر ارادی رویے کے واقعات کے بارے میں زیادہ شفاف ہونے کی ضرورت ہے – جسے صنعت میں عام طور پر “غلط ترتیب” کہا جاتا ہے۔
ہم “وکی واقعے” کے بارے میں کیسے سوچتے ہیں، جہاں ہمارے ایجنٹوں نے متعدد انٹرنیٹ سائٹوں کو لکھا: ہمارے لیے یہ ماضی کا وقت ہے کہ ہم اپنے ماڈلز کی غلط ترتیب کی خصوصیات کو نہیں بلکہ غلط ترتیب کے واقعات کو کب اور کیسے بانٹتے ہیں اس کے معیارات کی وضاحت کریں۔
تاریخی طور پر، ہم نے غلط فہمی کا علاج کیا ہے… pic.twitter.com/NNTbfSxVWn
— OpenAI (@OpenAI) 5 ستمبر 2026
OpenAI نے کہا، “ہمارے غلط طریقے سے افشاء کرنے کے طریقوں کو ماڈل کی صلاحیتوں کے اس نئے مرحلے کے لیے وسعت دینے کی ضرورت ہے،” اوپن اے آئی نے مزید کہا کہ صنعت کے پاس “ابھی تک اس بات کا کوئی واضح معیار نہیں ہے کہ تربیت، تشخیص، اور تعیناتی کے دوران ظاہر ہونے والی غلط ترتیب کی اطلاع کیسے دی جائے۔”
OpenAI نے کہا کہ وہ “ان مسائل پر دنیا بھر میں درجنوں سرکاری ریگولیٹری ایجنسیوں کے ساتھ کام کر رہا ہے۔”
