‘وہ ہماری زندگیوں سے کھیل رہے ہیں’: اے آئی کے محقق نے انتھروپک چھوڑ دیا۔

ایک مصنوعی ذہانت کے محقق جس نے OpenAI کو چھوڑ کر Anthropic میں شامل ہونے کا فیصلہ کیا ہے، اس نے دونوں امریکی کمپنیوں پر خود کو بہتر بنانے کے قابل AI ماڈل تیار کرنے کی دوڑ میں “ہماری زندگیوں سے کھیلنے” کا الزام لگاتے ہوئے انڈسٹری چھوڑنے کا فیصلہ کیا ہے۔

جیکب کوکسن، 27، نے پچھلے تین سال پہلے اوپن اے آئی میں اور پھر اس سال اپنے حریف اینتھروپک میں اے آئی ماڈلز کی تربیت میں گزارے، جسے اس نے اپنے نقطہ نظر میں زیادہ محتاط سمجھا۔

پری ٹریننگ وہ مرحلہ ہے جہاں AI ماڈلز ڈیٹا کی بڑی مقدار کو جذب کرتے ہیں۔

کوکسن نے منگل کو کہا، “کوئی بھی کمپنی ذمہ داری سے کام نہیں کر رہی ہے۔

انہوں نے X پر ایک پوسٹ میں کہا، “اے آئی بنانے والے لوگ دل سے یقین رکھتے ہیں کہ یہ دہائی کے آخر تک ہم سب کو ہلاک کر سکتا ہے۔”

انہوں نے مزید کہا کہ “یہ کوئی مارکیٹنگ اسٹنٹ نہیں ہے۔

سپر انٹیلی جنس ایک نظریاتی نقطہ ہے جب AI کی صلاحیتیں انسانی ذہانت سے زیادہ ہوتی ہیں۔

اینتھروپک سیفٹی ایگزیکٹو ایون ہبنگر نے کوکسن کو X پر بیک اپ کیا۔

“ہم واقعی دل سے یقین رکھتے ہیں کہ AI تمام انسانوں کو مار سکتا ہے!” انہوں نے کہا، انہوں نے مزید کہا کہ اس نے اگلی دہائی میں اس خطرے میں 10 فیصد سے زیادہ کا تخمینہ لگایا ہے۔

پڑھیں: اقوام متحدہ کے حقوق کے سربراہ نے خبردار کیا ہے کہ AI انسانیت کے لیے ‘وجود’ خطرے کا باعث بن سکتا ہے۔

Hubinger نے کہا کہ Anthropic “اپنی پوری کوشش کر رہی ہے”، لیکن اس کے پاس ابھی تک ایسا کوئی منصوبہ نہیں ہے کہ اس بات کو یقینی بنائے کہ AI سسٹم جو انسانی صلاحیتوں سے بالاتر ہو اپنے تخلیق کاروں کی اطاعت کرے۔ انہوں نے کہا کہ موجودہ ماڈلز کے ساتھ ایسا ہونے کا “کم” خطرہ ہے۔

بعد کی پوسٹ میں اپنے بیان کی وضاحت کرتے ہوئے، Hubinger نے اس بات پر زور دیا کہ موجودہ AI ماڈلز جو آج تعینات کیے گئے ہیں ان میں فوری خطرہ کم ہے۔ اس کے بجائے، اس کی بنیادی تشویش بار بار خود کو بہتر بنانے کے ذریعے پیدا ہونے والی مستقبل کی سپر انٹیلی جنس سے پیدا ہوئی – ایک ایسا عمل جہاں AI سسٹمز خود مختار طور پر AI کی بعد کی نسلوں کو تیز رفتاری سے ڈیزائن اور بڑھاتے ہیں۔

“میں جس چیز کے بارے میں فکر مند ہوں وہ سپر انٹیلی جنس ہے جو بار بار خود کو بہتر بنانے سے پیدا ہوتی ہے، جیسا کہ ہم نے کہا ہے کہ ہماری سوچ سے زیادہ تیزی سے ہو رہا ہے،” Hubinger نے Anthropic کے تازہ ترین خطرے کے جائزوں کا حوالہ دیتے ہوئے کہا۔

کوکسن کا استعفیٰ ایسے وقت آیا جب اینتھروپک اپنی مارکیٹ میں ڈیبیو کے لیے تیاری کر رہا ہے، اس موسم گرما کے بعد جو ٹیسٹنگ کے دوران AI ٹولز کے ذریعے کیے گئے غیر مجاز ہیکس کے ذریعے نشان زد کیا گیا تھا۔

دونوں کمپنیوں نے فوری طور پر جواب نہیں دیا۔ اے ایف پی تبصرہ کے لئے درخواستیں.

AI رہنماؤں کا کہنا ہے کہ نام نہاد “دوبارہ خود ساختہ بہتری”، ایک ایسا مرحلہ جہاں AI نظام بنیادی طور پر AI کی اگلی نسل کو بہت کم انسانی شمولیت کے ساتھ ڈیزائن اور تربیت دے سکتا ہے، قریب آ رہا ہے۔

Coxon Anthropic کی کوششوں کو حقیقی سمجھتا ہے لیکن ان کا کہنا ہے کہ ان کا خیال ہے کہ کوئی بھی کمپنی ذمہ داری کے ساتھ ایسا AI تیار نہیں کر سکتی جو حکومتی مداخلت یا مربوط سست روی کے بغیر انسانوں سے آگے نکل جائے۔

“انتھروپک میں، داؤ کو اچھی طرح سے سمجھا جاتا ہے، لیکن وہ پہلے وہاں پہنچنے کی دوڑ میں بند ہیں – انہیں یقین ہے کہ کوئی اور ذمہ داری سے کام نہیں کرے گا، اس لیے خطرے کے باوجود انہیں خود ہی کرنا چاہیے،” انہوں نے کہا۔

فروری میں، اینتھروپک نے اپنے حفاظتی چارٹر سے ایک عہد ہٹا دیا کہ اگر وہ اپنے خطرات کو کنٹرول کرنے میں ناکام رہی تو ماڈل کی ترقی کو روک دے گا۔

مزید پڑھیں: اقوام متحدہ کے پینل نے خبردار کیا ہے کہ AI کی غیر چیک شدہ پیشرفت تباہ کن خطرات کا باعث بن سکتی ہے۔

اس نے استدلال کیا کہ اگر اس نے یکطرفہ طور پر اپنے کام کو روک دیا، تو اس کے کم محتاط حریف صنعت پر حاوی ہوجائیں گے، جس سے یہ مجموعی طور پر کم محفوظ ہوجائے گا۔

جولائی کے آخر میں، ٹیک انڈسٹری کے 1,000 سے زائد ملازمین، بشمول اینتھروپک کے سی ای او ڈاریو آمودی، نے واشنگٹن سے مطالبہ کیا کہ وہ جدید ترین AI سسٹمز تیار کرنے میں ایک مربوط سست روی کی حمایت کرے۔

اوپن اے آئی نے سخت کنٹرول کے تحت دوبارہ شروع کرنے سے پہلے اگست میں اپنے تازہ ترین ماڈلز کی تربیت کو دو ہفتوں کے لیے روک دیا۔

اتوار کو، OpenAI کے چیف سائنسدان، Jakub Pachocki نے “انتہائی احتیاط” کا مطالبہ کیا۔

انہوں نے ایک بلاگ پوسٹ میں کہا، “مستقبل میں AI کی ترقی پر بین الاقوامی ہم آہنگی کو دنیا بھر کی حکومتوں کے لیے اولین ترجیح بننے کی ضرورت ہے۔”

AI ماڈلز کو ریاستہائے متحدہ میں وفاقی قانون کے ذریعے ریگولیٹ نہیں کیا جاتا ہے۔

ستمبر میں، سینیٹر برنی سینڈرز اور ڈیموکریٹک نمائندے گریگ کیسر نے ایک بل متعارف کرایا جس میں AI کی ترقی کو اس وقت تک معطل کرنے کی کوشش کی گئی جب تک کہ کوئی وفاقی ریگولیٹر نہیں بن جاتا۔