سابق گوگل ڈیپ مائنڈ محقق نے انتباہات میں اضافہ کیا ہے کہ اے آئی ‘تمام انسانوں کو مار سکتا ہے’
بلال چغتائی AI کے ‘پہلے سے طے شدہ رفتار’ پر خوف کی بازگشت کرتے ہوئے بشری محققین میں شامل ہوئے
گوگل ڈیپ مائنڈ کا ایک سابق ملازم پیر کو جدید ترین AI محقق بن گیا جس نے خبردار کیا کہ ٹیکنالوجی “تمام انسانوں کو مار سکتی ہے”، یہ کہتے ہوئے کہ نتائج سے بچنے کے لیے وقت ختم ہو سکتا ہے۔
اینتھروپک محقق جیکب کوکسن نے پچھلے ہفتے کہا تھا کہ اے آئی سے لاحق ممکنہ خطرے کے بارے میں عوامی الارم بڑھ رہا ہے۔ اس نے استعفی دے دیا تھا، جزوی طور پر کیونکہ “اے آئی کی تعمیر کرنے والے لوگ دل سے یقین رکھتے ہیں کہ یہ دہائی کے آخر تک ہم سب کو ہلاک کر سکتا ہے۔”
اینتھروپک سائنسدان ایون ہبنگر نے پھر کوکسن کے تبصروں کا جواب دیتے ہوئے کہا کہ وہ درست ہیں اور ان کا خیال ہے کہ 10 فیصد سے زیادہ امکان ہے کہ AI اگلی دہائی کے اندر تمام انسانوں کو ہلاک کر سکتا ہے۔
بلال چغتائی نے X پر لکھا، “میں نے حال ہی میں گوگل ڈیپ مائنڈ سے استعفیٰ دیا ہے، جہاں میں نے AGI کی حفاظت اور صف بندی کی تحقیق پر کام کیا ہے۔” مجھے پوری یقین ہے کہ AI میں ہم سب کو ہلاک کرنے کی صلاحیت ہے، اور یہ کہ اس نتیجے سے بچنے کے لیے ہمارے پاس وقت ختم ہو سکتا ہے۔”
میں نے حال ہی میں Google DeepMind سے استعفیٰ دیا ہے، جہاں میں نے AGI سیفٹی اور الائنمنٹ ریسرچ پر کام کیا۔ گوگل میں، میں نے پہلے ہاتھ میں AI کی ترقی کا مشاہدہ کیا۔ میں بھی اس ٹکنالوجی کی طے شدہ رفتار سے بہت پریشان ہوں۔ مجھے یقین ہے کہ AI میں ہمیں مارنے کی صلاحیت ہے…
— بلال 🔶 (@bilalchughtai_) 14 ستمبر 2026
چغتائی، جنہوں نے گوگل ڈیپ مائنڈ میں رہتے ہوئے تحقیقی مقالات کی شریک تصنیف کی، وہاں بطور ریسرچ انجینئر کام کیا اور جولائی 2026 میں کمپنی چھوڑ دی، ان کے لنکڈ ان پروفائل کے مطابق۔
گوگل نے باقاعدہ کاروباری اوقات سے باہر تبصرہ کرنے کی درخواست کا جواب نہیں دیا۔
حالیہ خدشات کے بعد، Anthropic سی ای او Dario Amodei سست روی کا مطالبہ کیا۔ ہفتے کے آخر میں جدید ترین AI کی ترقی کی رفتار میں، SpaceXAI کے ایلون مسک اور اوپن اے آئی سی ای او سیم آلٹ مین اور اے آئی “ڈومرزم” پر بحث چھیڑ رہے ہیں۔
چغتائی نے یہ بھی کہا کہ AI کو محفوظ طریقے سے نیویگیٹ کرنا ممکن تھا لیکن اس جنون سے بچنے کے لیے ہم آہنگی کی ضرورت ہوگی اے آئی کمپنیوں کے درمیان دوڑ“
انہوں نے مزید کہا کہ “ہمیں اے آئی کی ترقی کو اس رفتار سے آگے بڑھانے کی ضرورت ہے جس سے معاشرہ سنبھال سکے، جہاں ابھرتے ہوئے خطرات کو انتہائی نقصان پہنچانے سے پہلے ہی نمٹا جا سکے۔”
تاہم صدر ڈونلڈ ٹرمپ نے انتباہات کو مسترد کرتے ہوئے سوشل میڈیا پر کہا ہے کہ اے آئی انڈسٹری کی جانب سے ریگولیشن کا مطالبہ ایک “دھوکہ“
Source link
