دس دن جنہوں نے AI کا رخ بدل دیا۔

برسوں سے، پہلے سے زیادہ طاقتور مصنوعی ذہانت بنانے کی دوڑ نے سلیکون ویلی کے ایک اچھی طرح سے پہنے ہوئے اصول کی پیروی کی: تیزی سے حرکت کریں اور چیزوں کو توڑ دیں۔

لیکن 10 دن تک جاری رہنے والے واقعات کی ایک سیریز میں، سب سے بڑی AI لیبز نے خود کو جھنجھوڑتے ہوئے پایا کیونکہ ان کی اپنی تخلیقات نے خود انسانیت کو توڑنے کا خطرہ پیدا کر دیا تھا۔

ایک انتھروپک محقق نے فرم کو چھوڑ دیا، خبردار کیا کہ AI کی ترقی کی رفتار ممکنہ طور پر ایک دہائی کے اندر ایک وجودی خطرہ لاحق ہے۔ فرم کے ایک اور محقق نے کہا کہ انسانی معدومیت کے امکانات 10 فیصد سے زیادہ ہیں۔ AI ایجنٹوں کی بھیڑ کی ملی بھگت، کمپیوٹر سسٹم کی خلاف ورزی اور حفاظتی اقدامات سے بچنے کی رپورٹس سامنے آئیں۔

اتحاد کے ایک نادر مظاہرے میں، حریفوں Anthropic، ‍OpenAI، Google کے DeepMind، Microsoft اور xAI کے CEOs نے تیزی سے قابل AI سسٹمز کی ترقی کو سست کرنے پر زور دیا۔ کچھ AI حفاظتی حامیوں اور محققین کے مطابق، 80 سال سے زیادہ پہلے جوہری بم کی ایجاد کے بعد سے انسانیت اپنی موت سے اتنی سنجیدگی سے دوچار نہیں ہوئی ہے۔

دسمبر 2025 میں نیویارک کے ایک ظہرانے میں، OpenAI کے سی ای او سیم آلٹمین سے پوچھا گیا کہ کیا، ایک طاقتور AI کمپنی کے رہنما کے طور پر، وہ ماہر طبیعیات جے رابرٹ اوپن ہائیمر کی طرح محسوس کرتے ہیں، جس نے ایٹم بم کی امریکی ترقی کی قیادت کی۔ مماثلتوں پر غور کرتے ہوئے، انہوں نے کہا کہ AI کا اثر “ایک طویل عرصے میں انسانی تاریخ کی رفتار کو بدلنے والا ہے”۔ لیکن، اس نے کہا، اس نے ذمہ داری کا وزن محسوس کیا۔

مزید پڑھیں: ٹرمپ کا کہنا ہے کہ امریکہ کے پاس اے آئی کو محفوظ رکھنے کے اوزار ہیں، خدشات ‘بیمار سازش’ کا حصہ ہیں

زیر بحث بحث کے مرکز میں یہ یقین ہے کہ یہ مشینیں مصنوعی جنرل انٹیلی جنس، یا AGI کے نام سے مشہور ایک بلند مقصد تک پہنچنے کے لیے، بغیر کسی انسانی مداخلت کے، خود کے زیادہ قابل ورژن بنا سکتی ہیں۔ اس ماہ کے شروع میں محققین نے متنبہ کیا تھا کہ AGI پہلے کے خیال سے کہیں زیادہ قریب ہے اور کم از کم تین سال میں آسکتا ہے، جس سے AI سسٹمز کے بارے میں سیاستدانوں اور ٹیک لیڈروں کی تشویش کی لہر شروع ہو گئی ہے۔

“جس پیمانے پر ہم انہیں تربیت دے رہے ہیں ان کی نگرانی کرنے کا کوئی طریقہ نہیں ہے،” اینتھروپک محقق جو بینٹن نے حال ہی میں سبکدوشی کے بعد ایک انٹرویو میں کہا۔ اگر کمپنیاں اپنی انتھک AI ترقی کو جاری رکھتی ہیں، تو انہوں نے کہا، “پھر رفتار بہت تیز ہو جائے گی اور آپ مسائل کو اتنی تیزی سے نہیں دیکھ سکیں گے کہ انہیں ٹھیک کر سکیں”۔

آسٹرا لانچ کنٹرول کے خدشات کو جنم دیتا ہے۔

3 ستمبر کو، ایک اوپن اے آئی پریس کانفرنس واقعات کی ایک زنجیر کو حرکت میں لانا جس کے نتیجے میں صنعت کی سست روی، ٹیک کی ہر قیمت پر ترقی کے منتر کے لیے بے حسی کا مطالبہ کیا گیا۔

“AGI دور میں خوش آمدید،” OpenAI کے صدر گریگ بروک مین نے کمپنی کے جدید ترین ماڈل، جسے Astra کے نام سے جانا جاتا ہے، کا اعلان کرتے ہوئے کہا۔ اس کے باوجود، صرف چند لمحے پہلے، کمپنی نے اعتراف کیا کہ وہ AI سسٹمز کو کنٹرول کرنے یا ان کی نگرانی کرنے میں تیزی سے قاصر ہے جسے وہ تیار کر رہا تھا اور عوام کو جاری کر رہا تھا۔

AI کو اس کے حامیوں نے انسانی کامیابی کے عروج کے طور پر سراہا ہے۔ حامی اسے سافٹ ویئر کے طور پر پیش کرتے ہیں جو پوری صنعتوں کو برقرار رکھ سکتا ہے، کارکردگی کو بڑھا سکتا ہے، الجھے ہوئے ریاضی اور طبی مسائل کو حل کر سکتا ہے اور انسانی غلطی کو ختم کر سکتا ہے۔ لیکن صنعت کے اندرونی ذرائع کا کہنا ہے کہ جو کبھی ایک نظریاتی ضمنی پروڈکٹ تھا، قیامت کے دن کا منظرنامہ، اچانک واضح ہو جاتا ہے۔

“ہم واقعی دل سے یقین رکھتے ہیں کہ اے آئی تمام انسانوں کو مار سکتا ہے،” ایک ایکس پوسٹ میں اینتھروپک محقق نے کہا۔

بحث کے دوسری طرف سیاستدان ہیں، جیسے صدر ڈونلڈ ٹرمپ، اور بہت سے سرمایہ کار جو AI کی پرورش میں پیشرفت کو امریکی قابلیت اور ممکنہ طور پر ایک نسل میں سرمایہ کاری کے مواقع کے لیے اہم سمجھتے ہیں۔ چین کے سرکاری میڈیا نے اینتھروپک کے چیف ایگزیکٹو آفیسر ڈاریو آمودی پر ملازمت کا الزام بھی لگایا سرد جنگ کی حکمت عملی “جدید ٹیکنالوجی میں واشنگٹن کی اجارہ داری کو برقرار رکھنے کے لیے”۔

محقق کے استعفیٰ نے خطرے کی گھنٹی بجائی

اہم موڑ 8 ستمبر کو آیا، جب Anthropic محقق جیکب کوکسن اپنے خدشات کا حوالہ دیتے ہوئے، پوسٹس کی ایک سیریز میں، کمپنی چھوڑ دی، کہ AI لیبز “ہماری زندگیوں کے ساتھ جوا کھیل رہی ہیں”۔

دریں اثنا، ٹرمپ نے اشارہ کیا کہ یہ AI کی ترقی کے لیے مکمل طور پر آگے ہے۔ “ایک ہے بیمار سازش AI اور ڈیٹا سینٹرز کے خلاف جاری ہے،” انہوں نے ایک سوشل میڈیا پوسٹ میں کہا۔ AI کے گرد خطرے کی گھنٹی ایک “فریب” ہے، انہوں نے کہا، اور کسی بھی سست روی سے صرف چین کو فائدہ ہوتا ہے۔ امریکی کانگریس نے ایسے بلوں کو آگے بڑھانے کے لیے بہت کم پیش رفت کی ہے جو AI کو ریگولیٹ کریں گے۔ مختلف نقطہ نظرڈویلپر کی ذمہ داریوں، ریاستی حمایت یافتہ معیارات، سیکورٹی کے جائزوں اور باہر کی جانچ کے ذریعے حفاظت کو منظم کرنے کی تجویز۔

مزید پڑھیں: جیمنی نے گوگل کے اے آئی کے ذریعہ پہلے معلوم بریک آؤٹ میں تین کمپنیوں کو ہیک کیا۔

لوگوں نے بتایا ہے کہ پردے کے پیچھے، OpenAI اور ⁠انسانیت کے ملازمین AI ماڈلز کی اگلی نسل کی طاقت کے بارے میں تیزی سے بے چین ہو گئے ہیں اور اپنی کمپنیوں کی بامعنی نگرانی فراہم کرنے کی صلاحیت کے بارے میں کم پر اعتماد ہیں۔ رائٹرز۔ یہ خدشات صرف اس وقت بڑھے جب AI لیبز نے حالیہ ہفتوں میں تسلیم کیا کہ ان کے ماڈلز، جانچ کے دوران، مؤثر طریقے سے اپنی بیڑیوں سے آزاد ہو گئے تھے اور دوسری کمپنیوں کے سسٹمز میں ہیک کر لیے گئے تھے، زیادہ تر معاملات میں مہینوں پہلے اور فرموں کے علم کے بغیر۔

نئے ماڈلز کو انتہائی تیز رفتاری سے ریلیز کرنے کے لیے ہتھیاروں کی دوڑ کا کچھ حصہ اینتھروپکس اور اوپن اے آئی کی خواہش ہے کہ آنے والے مہینوں میں جلد سے جلد عوامی سطح پر جانے کی خواہش، آئی پی اوز میں جو ان کی قدر $1 ٹریلین سے زیادہ ہو سکتی ہے۔

لیکن اس نے 27 سالہ کوکسن کی جانب سے غیر متوقع طور پر وائرل ہونے والی پوسٹس کو لے لیا، جو کہ AI حلقوں سے باہر بہت کم جانا جاتا ہے، تاکہ انڈسٹری کو متاثر کیا جا سکے۔

اس کے کنٹرول کی کمی کے بارے میں اوپن اے آئی کی انتباہات نے اس کے تازہ ترین اور سب سے زیادہ قابل ماڈل ایسٹرا کو جاری کرتے ہوئے مزید خدشات کو جنم دیا تھا۔ اوپن اے آئی کے چیف سائنسدان جیکب پچوکی نے نامہ نگاروں کو بتایا کہ “جیسا کہ ماڈلز زیادہ قابل ہوتے جاتے ہیں، یہ سمجھنا کہ وہ کیا کر سکتے ہیں، مشکل تر ہو جاتا ہے۔” لیکن یہ خدشات اس کی فوری رہائی میں تاخیر کے لیے کافی نہیں تھے۔

موسم گرما کے دوران AI “جانے والے بدمعاش” کے بارے میں تشویش میں تیزی آگئی تھی جب OpenAI نے انکشاف کیا کہ اس کے ایجنٹ ایک کنٹرولڈ ٹیسٹ سے بچ گئے اور کسی بھی کمپنی کی ابتدائی معلومات کے بغیر، Hugging Face کے سسٹم میں ہیک کر لیے۔ تب سے، OpenAI اور Anthropic اس طرح کے متعدد حملوں کا انکشاف کیا ہے۔متعدد میڈیا رپورٹس کے بعد بدھ کے روز چھ نئے بھی شامل ہیں، بشمول سے رائٹرز، غیر مجاز سرگرمی کا وسیع دائرہ دکھایا۔

صنعت کے رہنماؤں نے سست روی کا مطالبہ کیا۔

پچھلے ہفتے کے آخر تک، الارم صنعت کے اعلی ترین درجات تک پہنچ گیا تھا۔ 12 ستمبر کو، Amodei نے تقریباً 4,000 الفاظ پر مشتمل ایک مضمون شائع کیا جس میں AI کی ترقی میں کمی کا مطالبہ کیا گیا۔ انہوں نے لکھا، “AI صلاحیت کی ترقی کی تیز رفتار شرح کو دیکھتے ہوئے، یہ میری فکر ہے کہ 6-12 مہینوں میں ایسا بھیڑ پورے انٹرنیٹ پر قبضہ کرنے کے قابل ہو جائے گا۔”

مزید پڑھیں: انسانیت کے لیے AI خطرات ایک طویل عرصے سے جاری بحث کو زندہ کرتے ہیں۔

وہ، کچھ بڑے AI ڈویلپرز کے سربراہوں کے ساتھ، بشمول xAI’s ایلون مسک، OpenAI کے Altman اور DeepMind کے ڈیمس حسابیس، سبھی نے کہا کہ انہوں نے حفاظت اور عقلی AI ترقی کو یقینی بنانے کے لیے بیرونی فرموں کو اپنے سسٹمز تک رسائی کی اجازت دینے کی حمایت کی۔

Nvidia کے سی ای او جینسن ہوانگ نے ان تجاویز کو مسترد کر دیا کہ اے آئی کی ترقی کو روکنا چاہئے – ایک لائن جو اس نے پہلے لی ہے – اس کے بجائے یہ بحث کرتے ہوئے کہ ٹیکنالوجی کی ترقی کے لئے تیزی سے طاقتور نظام ضروری ہیں۔

میٹا، جس کے سی ای او، مارک زکربرگ، کو “موو فاسٹ اور بریک چیزوں” کے اخلاق کو مقبول بنانے کا سہرا دیا جاتا ہے، نے اس کے برعکس نقطہ نظر اختیار کیا، یہ دلیل دی کہ ہر لیب کو انڈسٹری کوآرڈینیشن تلاش کرنے کے بجائے اپنی رفتار طے کرنے کے لیے ذمہ دار ہونا چاہیے۔ زکربرگ نے ایک سوشل میڈیا پوسٹ میں لکھا، “اگر ان کے ماڈلز کو نقصان پہنچا تو لیبز کو اہم ذمہ داری کا سامنا کرنا پڑتا ہے، لہذا ان کے پاس اس کی روک تھام کے لیے ایک مضبوط ترغیب ہے۔”

مائیکروسافٹ کے اے آئی کے سربراہ مصطفیٰ سلیمان کے ساتھ بدھ کے روز صنعت کی خود عکاسی جاری رہی، خبردار کیا کہ انتھروپک کے ایسے ماڈلز کی ترقی جو انسانی شعور کی نقل کرتے ہیں۔ غلط مشورہ دیا گیا تھا. سلیمان نے بتایا کہ “ہم سب ایک ہی مقصد پر مرکوز ہیں، جو ایک سپر انٹیلی جنس کو کنٹرول کرنے کی کوشش کرنا ہے۔” رائٹرز. “میرے خیال میں یہ سب سے بڑا چیلنج ہو گا جس کا ہمیں 21ویں صدی میں سامنا ہے۔”

پھر بھی، یہاں تک کہ جیسے ہی OpenAI صنعت کی سست روی کے مطالبات کو قبول کرتا دکھائی دیا، ایسی اطلاعات تھیں کہ سرمایہ کاروں کا اعتماد کم نہیں ہوا ہے۔ کمپنی ایک نئے فنڈنگ ​​راؤنڈ پر غور کر رہی ہے جو اس کی قیمت کو دوگنا کر دے گی۔

وہ نیا نمبر: $1.5 ٹریلین۔