AI محققین نے کمپنیوں کو خبردار کیا ہے کہ وہ حفاظتی خطرات کے باوجود خود کو بہتر بنانے کے نظام میں تیزی سے کام کر رہی ہیں۔

موجودہ اور سابق اوپن اے آئی اور گوگل ڈیپ مائنڈ کے محققین نے خبردار کیا ہے کہ کمپنیاں خود کو بہتر بنانے والے AI سسٹمز کی تعمیر کے ممکنہ تباہ کن نتائج سے دنیا کی حفاظت کے لیے بہت کم کام کر رہی ہیں جو انسانوں کی ان پر قابو پانے کی صلاحیت کو بڑھا سکتی ہیں۔

AI حفاظتی غیر منافع بخش تنظیم Palisade Research کے ذریعہ جمع کردہ اور خصوصی طور پر رائٹرز کے ساتھ شیئر کیے گئے ویڈیو تعریفوں میں، ملازمین نے کہا کہ وجودی خطرے کے بارے میں ان کے خدشات مخلص ہیں، مارکیٹنگ کے نہیں۔ انہوں نے یہ بھی کہا کہ AI لیبز نے ملازمین کو نئے ماڈلز بنانے کا جشن منایا جو احتیاط کی تاکید کرتے ہیں۔

پروجیکٹ، کہا جاتا ہے inside.ai سے، AI کے بارے میں فکر مند افراد کی ایک کوشش ہے کہ وہ اپنے خدشات کو سوشل میڈیا کے ایکو چیمبر سے باہر براہ راست عوام کے ساتھ شیئر کریں۔

“خطرہ بہت تیزی سے بڑھ رہا ہے،” AI غیر منفعتی ریزولوشن کے شریک بانی اور چیف سائنسدان جیفری ارونگ نے کہا، جنہوں نے OpenAI اور DeepMind دونوں کے لیے کام کیا ہے اور پروجیکٹ میں حصہ لیا ہے۔

“یہ مجھ پر ہے اور باقی فیلڈ کا براہ راست ہونا ہے،” انہوں نے ایک انٹرویو میں کہا رائٹرز۔

اے آئی کے محققین برسوں سے ان خدشات کا مقابلہ کر رہے ہیں، لیکن وسیع تر عوام خاص طور پر جولائی کے بعد سے پریشان ہو گئے ہیں، جب اوپن اے آئی ایجنٹس ٹوٹ گیا ان کے ٹیسٹنگ میدان اور ہیک شدہ AI فرم Hugging Face۔

مزید پڑھیں: اوپن اے آئی نے آسٹریلوی حکومت کی ویب سائٹ ہیک کے لیے معذرت، اعتماد بحال کرنے کا وعدہ کیا۔

تب سے، AI میں ترقی کے ساتھ حفاظت کو متوازن کرنے کے بارے میں بحث نے ٹیک انڈسٹری کو تقسیم کر دیا ہے اور عالمی سیاسی مسئلہ.

2025 کے آخر سے AI میں تیزی سے بہتری آئی ہے اور سرمایہ کار اس پیشرفت کا صلہ دے رہے ہیں۔ لیکن موجودہ اور سابق ملازمین، بشمول ان نئے AI ماڈلز بنانے والے کچھ محققین، فکر مند ہیں کہ معاشرہ ممکنہ نقصانات کے لیے تیار نہیں ہے۔

ایک ویڈیو میں، ڈیپ مائنڈ کے ایک تحقیقی سائنسدان نیل نندا نے کہا کہ ان کا ماننا ہے کہ کم از کم 10 فیصد امکان ہے کہ AI انسانی معدومیت کا باعث بن سکتا ہے، جسے انہوں نے “مضحکہ خیز حد تک زیادہ” قرار دیا۔

“ہمیں اے آئی کی ترقی میں بہت محتاط اقدامات کرنے چاہئیں لیکن اس کے بجائے جو ہو رہا ہے وہ یہ ہے کہ سرحدی لیبز ایک دوسرے سے دوڑ رہی ہیں، آنکھوں پر پٹی باندھی ہوئی ہے،” اوپن اے آئی میں اے آئی الائنمنٹ ریسرچ انجینئر جوآن فیلیپ سیرون یوریبی نے ایک الگ ویڈیو میں کہا۔

“یہ کسی کا اندازہ ہے کہ کیا ہم یا تو کینسر کا علاج کرنے جا رہے ہیں یا ہر نوکری کھو دیں گے یا شاید سب مر جائیں گے۔”

انتھروپک اس میں ممکنہ سرمایہ کاروں کو خبردار کرنے کا منصوبہ رکھتا ہے۔ ابتدائی عوامی پیشکش کہ اعلی درجے کی AI “تباہ کن یا وجودی خطرات انسانیت کو” رائٹرز پیر کو رپورٹ کیا.

‘بس آہستہ کرو’

کچھ موجودہ اور سابق AI محققین، جن میں Palisade کے انٹرویوز شامل ہیں، یہ استدلال کرتے ہیں کہ دنیا AI ماڈلز کی آنے والی نسلوں کے لیے تیار نہیں ہے، خاص طور پر ایک بار جب ماڈلز بار بار خود کو بہتر بنانے کی صلاحیت، یا مسلسل سیکھنے اور نئی صلاحیتوں کو حاصل کرنے کی صلاحیت پیدا کر لیتے ہیں جس میں کوئی انسانی شمولیت نہیں ہوتی۔

اوپن اے آئی کی سابقہ ​​پالیسی محقق اور AI سسٹمز کی ممکنہ اخلاقی حیثیت پر توجہ مرکوز کرنے والی ایک غیر منفعتی تنظیم Eleos AI ریسرچ کی منیجنگ ڈائریکٹر روزی کیمبل نے کہا کہ یہ مسئلہ AI لیبز میں سے کچھ کے اندر مسلسل تنظیم نو کی وجہ سے بڑھ گیا ہے۔

کیمبل نے 2024 میں OpenAI چھوڑنے سے پہلے کہا، اس نے محسوس کیا کہ تنظیم زیادہ خاموش ہو رہی ہے اور ٹیکنالوجی کی سمت کو تشکیل دینا مشکل ہوتا جا رہا ہے۔

یہ بھی پڑھیں: Nvidia نے AI سیفٹی سافٹ ویئر جاری کیا جس کا کہنا ہے کہ Hugging Face ہیک کو روک سکتا تھا۔

ایگزیکٹوز نے ان خدشات کو دور کرنے کی کوشش کی ہے، حالانکہ صدر ڈونلڈ ٹرمپ کی طرف سے امریکی ٹیکنالوجی کے لیے چین پر تکنیکی برتری برقرار رکھنے کے لیے سیاسی دباؤ بھی ہے۔

Anthropic سی ای او Dario Amodei اس ماہ شائع ایک مضمون AI صنعت سے “فرنٹیئر کی رفتار” کو سست کرنے کا مطالبہ کیا اور OpenAI کے سی ای او سیم آلٹ مین نے فوری طور پر اتفاق کیا۔

کئی ممتاز AI محققین، بشمول OpenAI کے چیف سائنسدان اور ایک اینتھروپک شریک بانی، نے اس ہفتے ایک مقالہ شائع کیا جس میں پالیسی سازوں پر زور دیا گیا کہ وہ یہ دیکھیں کہ صنعت کس طرح دوبارہ خود کو بہتر بنانے کے ساتھ ماڈل بنا رہی ہے۔

دونوں کمپنیوں نے اس ماہ نئے ماڈلز لانچ کیے ہیں کیونکہ وہ زیادہ سے زیادہ صارفین کو محفوظ بنانے کے لیے مقابلہ کرتے ہیں، حالانکہ OpenAI نے پیر کو کہا کہ اس نے رہائی کو روک دیا اس سے بھی زیادہ طاقتور ماڈل۔

ارونگ نے کہا ، “فرنٹیئر کو تیز کرنے کا ان کا ورژن ہے ‘زیادہ رفتار نہ بڑھاؤ’۔ “اگر آپ بہت خطرناک کام کر رہے ہیں، تو آپ کو سست ہونا چاہیے۔ AI کمپنیاں اس حد تک زیادہ کھیل رہی ہیں کہ یہ ایک خالص کوآرڈینیشن مسئلہ ہے۔ وہ صرف یکطرفہ طور پر روک سکتے ہیں۔”

اوپن اے آئی گورننس کے سابق محقق ڈینیئل کوکوٹاجلو نے ایک انٹرویو میں کہا کہ ہیگنگ فیس ہیک کے بعد سے ان کے بہت سے سابق ساتھیوں نے ان سے نجی طور پر اپنے خدشات کا اظہار کرنے کے لیے رابطہ کیا ہے۔

کوکوتاجلو، جو اب ریسرچ گروپ اے آئی فیوچر پروجیکٹ کے ایگزیکٹو ڈائریکٹر ہیں، نے کہا کہ لیبز کے سینئر حکام نے “خود کو باور کرایا ہے کہ وہ اچھے لوگ ہیں اور اگر وہ یکطرفہ طور پر روکے گئے تو صورتحال مزید خراب ہو جائے گی۔”