اوپن اے آئی سیفٹی ملازم نے استعفیٰ دے دیا، کہتے ہیں ‘آزمائش اور غلطی کا وقت ختم ہو گیا ہے’

ایک سابق اوپن اے آئی سیفٹی ملازم جس نے حال ہی میں استعفیٰ دیا ہے، نے کمپنی کے اے آئی سیفٹی کے طریقہ کار پر تنقید کی ہے، یہ دلیل دی کہ تیز رفتار ترقی پر توجہ مرکوز کرنے والی تیز رفتار ثقافت ناکامیوں کے خطرے کو بڑھاتی ہے۔

“میں نے اوپن اے آئی کو چھوڑ دیا کیونکہ اس کا کلچر ٹوٹا ہوا ہے” میں لکھنا، شائع ہوا۔ بحر اوقیانوس ہفتے کے روز، ڈیوڈ رابنسن نے کہا کہ AI کمپنیاں، بشمول OpenAI، “تقریبا کافی محتاط” نہیں ہیں اور انہیں زیادہ قابل نظام تیار کرنے سے پہلے حفاظتی مہارت اور تحقیق پر زیادہ زور دینا چاہیے۔

“آزمائش اور غلطی کا وقت ختم ہو گیا ہے،” رابنسن نے لکھا، یہ استدلال کرتے ہوئے کہ جدید ترین AI سسٹمز کو جوہری توانائی اور ہوابازی جیسی صنعتوں میں استعمال ہونے والے تحفظات کی ضرورت ہوتی ہے۔

رابنسن نے کہا کہ OpenAI اس بات پر بہت زیادہ انحصار کرتا ہے جسے وہ “دوبارہ تعیناتی” کہتا ہے، نظام کو جاری کرتا ہے اور جب مسائل سامنے آتے ہیں تو حفاظتی اقدامات کو مضبوط کرتا ہے۔

مزید پڑھیں: پیسہ ختم ہونے سے پہلے AI کی دنیا کو تبدیل کرنے کی دوڑ

تبصرے ایک میں اضافہ کرتے ہیں۔ AI صنعت کے اندر بحث اس بات پر کہ آیا کمپنیاں تیزی سے طاقتور نظام تیار کرنے کے لیے تیزی سے آگے بڑھ رہی ہیں۔ اوپن اے آئی اور حریف بشری ایسے واقعات کے بعد جانچ پڑتال کا سامنا کرنا پڑا جس میں حفاظتی کنٹرول ناکام ہوئے یا تجرباتی نظام غیر متوقع طور پر برتاؤ کیا۔

رابنسن، جس نے کہا کہ اس نے اوپن اے آئی میں ساڑھے تین سال گزارے، کمپنی کے تیاری کے فریم ورک کا مسودہ تیار کرنے اور 12 فرنٹیئر ماڈل لانچوں کے لیے حفاظتی رپورٹس کی نگرانی کرنے میں مدد کی۔ “جب کمپنی ایک لانچ سے دوسرے لانچ تک دوڑتی ہے، یہ دیکھ بھال کی اس سطح کو حاصل کرنے میں ناکام ہو رہی ہے جس کی مجھے یقین ہے کہ اس کی ضرورت ہے،” انہوں نے لکھا۔

OpenAI کے ترجمان نے ایک بیان میں کہا، “ہم اس بات کو یقینی بنا رہے ہیں کہ ہمارے ماڈلز اس سے زیادہ قابل نہ بن جائیں جتنا ہم محفوظ طریقے سے منظم اور محفوظ کر سکتے ہیں، اور جب ہمیں سست ہونے کی ضرورت ہو تو ہم ٹریننگ کو روک دیتے ہیں یا ماڈلز کو روک دیتے ہیں۔”

رابنسن نے یہ بھی خبردار کیا کہ AI کی صلاحیتیں محققین کی صف بندی کے بارے میں سمجھنے کے مقابلے میں تیزی سے آگے بڑھ رہی ہیں، یہ ایک ایسا شعبہ ہے جس پر توجہ مرکوز کی گئی ہے کہ AI سسٹمز انسانی مقاصد اور اقدار کے مطابق کام کریں۔