انتھروپک محققین کے انسانی معدومیت کے بارے میں انتباہ کے بعد مزید امریکی قانون ساز نئے AI قوانین کی تلاش میں ہیں۔
بشریات کے محقق جیکب کوکسن نے استعفیٰ دے دیا، یہ کہتے ہوئے کہ اے آئی بنانے والوں کا خیال ہے کہ ٹیکنالوجی ہمیں اس ساری دہائی میں ہلاک کر سکتی ہے۔
5 جون 2026 کو لی گئی اس مثال میں انسان کا لوگو۔ REUTERS
امریکی قانون سازوں کی بڑھتی ہوئی تعداد دو انتھروپک محققین کی جانب سے سخت انتباہات کے بعد اے آئی سسٹمز پر حکومت کرنے کے لیے نئے قوانین کا مطالبہ کر رہی ہے کہ مصنوعی ذہانت کی تیزی سے ترقی مستقبل قریب میں نسل انسانی کے ناپید ہونے کا باعث بن سکتی ہے۔
AI سے ممکنہ نقصان کے بارے میں خطرے کی گھنٹی اس ہفتے اس وقت بڑھ گئی جب انتھروپک محقق جیکب کوکسن نے کہا کہ اس نے استعفیٰ دے دیا ہے، اور یہ کہ “AI کی تعمیر کرنے والے لوگ دل سے یقین رکھتے ہیں کہ یہ دہائی کے آخر تک ہم سب کو ہلاک کر سکتا ہے۔”
انتھروپک سائنسدان ایون ہبنگر نے کہا کہ کوکسن درست تھا۔
Hubinger نے X پر لکھا، “ہم واقعی دل سے یقین رکھتے ہیں کہ AI تمام انسانوں کو مار سکتا ہے۔” “میں ذاتی طور پر سمجھتا ہوں کہ اگلی دہائی میں یہ 10% سے زیادہ ہے۔”
جیکب یہاں درست ہے — ہمیں واقعی یقین ہے کہ AI تمام انسانوں کو مار سکتا ہے! میں ذاتی طور پر سمجھتا ہوں کہ یہ اگلی دہائی میں 10% سے زیادہ ہے۔ مجھے یقین ہے کہ انتھروپک اپنی پوری کوشش کر رہا ہے، لیکن ہمارے پاس ابھی تک سپر انٹیلی جنس کے لیے صف بندی کو حل کرنے کا کوئی منصوبہ نہیں ہے اور وہ واضح طور پر راستے پر نہیں ہیں۔ https://t.co/QAIHiFP3QZ
— ایوان ہبنگر (@ ایوان ہب) 9 ستمبر 2026
انتباہات AI ایجنٹوں کے بیرونی سسٹمز کو ہیک کرنے کے لیے بدمعاش بننے اور AI سیفٹی کے محققین کے ٹیکنالوجی کے خطرات کے بارے میں فکر مند اپنی کمپنیوں کو چھوڑنے کے واقعات کی پیروی کرتے ہیں۔ ڈیموکریٹس اور ریپبلکن دونوں سیاستدانوں نے خطرے کی گھنٹی کے ساتھ جواب دیا ہے اور مزید کارروائی کا مطالبہ کیا ہے۔
“واشنگٹن کو بیدار ہونے اور اسے سنجیدگی سے لینے کی ضرورت ہے،” ایریزونا کے سینیٹر مارک کیلی، ایک ڈیموکریٹ، نے X پر، AI ٹیکنالوجی کے خطرات کا حوالہ دیتے ہوئے کہا۔
ٹیکساس کے سینیٹر ٹیڈ کروز نے ٹی وی پروگرام “دی ویو” میں اے آئی کے “تباہ کن خطرات” کو کنٹرول کرنے کے لیے قانون سازی کی طرف اشارہ کیا۔ کروز امریکی کامرس ڈپارٹمنٹ کی نگرانی کے ساتھ سینیٹ کی ایک کمیٹی کی نگرانی کرتا ہے، یہ ایجنسی اندرون ملک AI حفاظتی محققین کے ساتھ ہے۔
فلوریڈا سے تعلق رکھنے والی ریپبلکن نمائندہ انا پولینا لونا نے X پر ایک پوسٹ میں ہاؤس کے اسپیکر مائیک جانسن سے “AI پر خصوصی اجلاس” بلانے کا مطالبہ کیا۔ ہاؤس اس ہفتے چھٹی پر باہر ہے، اگلے ہفتے واپسی کے منصوبوں کے ساتھ۔
لیکن امریکی صدر ڈونلڈ ٹرمپ نے جمعرات کو کہا کہ انہیں AI کے بارے میں کوئی تشویش نہیں ہے جس کی وجہ سے انسان ختم ہو رہا ہے۔
انہوں نے ڈلاس فورٹ ورتھ انٹرنیشنل ایئرپورٹ پر میڈیا سے مختصر ریمارکس میں کہا، “مجھے خدشات ہیں کہ اگر ہم AI نہیں جیتتے، تو ہم بہت بری پوزیشن میں ہو جائیں گے۔
امریکہ نے اس ماہ جی 20 ممبران پر دباؤ ڈالا کہ وہ AI ریگولیشن سے دستبرداری اختیار کریں۔
اینتھروپک کے ترجمان، جو کچھ سرمایہ کاروں نے کہا ہے کہ 2 ٹریلین ڈالر کی ممکنہ قیمت ہو سکتی ہے اس پر عوامی سطح پر جانے کی تیاری کر رہے ہیں، نے جمعرات کو کہا کہ کمپنی سائبر سیکیورٹی اور حیاتیات جیسے شعبوں میں “ماڈلز یا خطرناک صلاحیتوں” کی جارحانہ جانچ جاری رکھے گی۔
ترجمان نے مزید کہا کہ کمپنی AI انڈسٹری کے ساتھ نئے AI ٹولز جاری کرنے کی رفتار پر کام کرنے میں دلچسپی رکھتی ہے۔
دوسرے AI محققین نے چھوڑ دیا ہے۔
بلومبرگ نیوز نے رپورٹ کیا کہ اوپن اے آئی کے چیف ایگزیکٹو سیم آلٹ مین نے اس ہفتے کمپنی کے اجلاس میں ملازمین کو بتایا کہ فرم اپنے اے آئی سسٹمز کی ترقی کو سست کرنے کے لیے تیار ہے۔
انتھروپک حریف، جو آئی پی او کے لیے بھی تیار ہے، نے آلٹ مین کی عملے سے ملاقات پر کوئی تبصرہ نہیں کیا۔ کمپنی نے پہلے کہا ہے کہ وہ ماڈل کی ترقی کے حصوں کو سست کر رہی ہے۔
اس ہفتے کے شروع میں، OpenAI نے کہا کہ وہ ریاستہائے متحدہ میں لازمی قومی AI حفاظتی تقاضوں پر زور دے رہا ہے۔
اے آئی سیفٹی کے دو ماہرین بھی صنعت کی تیز رفتار ترقی کے بارے میں اپنے خدشات کے ساتھ سامنے آئے ہیں۔
مزید پڑھیں: ذرائع کا کہنا ہے کہ متحدہ عرب امارات نے ایرانی حملوں کے بعد AI ڈیٹا سینٹر پلان پر نظر ثانی کی ہے۔
جوش اینگلز، جو گوگل ڈیپ مائنڈ میں اے آئی سیفٹی ریسرچ پر کام کرتے تھے، جمعرات کو شائع ہونے والے این بی سی کے ساتھ ایک انٹرویو میں کہا: “کمرے میں کوئی بالغ نہیں ہے۔ لوگ اپنی پوری کوشش کر رہے ہیں، لیکن ہمیں بچانے کے لیے کوئی نہیں آ رہا ہے۔”
جو بینٹن، جو اینتھروپک میں ایک حفاظتی تحقیقی ٹیم کی قیادت کرتے تھے، نے این بی سی کو بتایا کہ وہ فکر مند ہیں کہ AI بہت تیزی سے ترقی کر سکتا ہے “ہم اپنے کام کو وقت پر اکٹھا کرنے میں بہت تیزی سے کام کر سکتے ہیں جب تک کہ ہم ابھی اس کی فکر نہ کریں۔”
دونوں نے METR میں شمولیت اختیار کی ہے، جو کہ ایک تحقیقی غیر منفعتی ادارہ ہے جو اس بات کی پیمائش کرتا ہے کہ آیا اور کب AI سسٹمز معاشرے کو نقصان پہنچا سکتے ہیں۔
آزاد آڈیٹرز
AI کے بارے میں خطرے کی گھنٹی نے سینیٹ کے اکثریتی رہنما جان تھون اور ڈیموکریٹ ایمی کلبوچر پر دباؤ ڈالا ہے، جو AI مصنوعات کو ریگولیٹ کرنے کے لیے ایک بل لکھ رہے ہیں۔
کلبوچر نے کہا کہ قانون سازی کے تحت AI ٹولز تیار کرنے والی کمپنیوں سے “حکومتی ماہرین کے ساتھ مل کر ماڈلز کی تصدیق اور جانچ کے لیے کام کرنا چاہیے تاکہ یہ یقینی بنایا جا سکے کہ AI محفوظ ہے۔”
تھون نے جولائی میں رائٹرز کو بتایا تھا کہ یہ بل اے آئی سسٹمز کے ذریعہ پیدا ہونے والے “تباہ کن خطرات” کو دور کرے گا۔
کیلیفورنیا نے بدھ کے روز ریاستی قانون کی ترتیب کے پہلے قوانین کو نافذ کیا کہ کس طرح آزاد آڈیٹر AI مصنوعات کی جانچ کرتے ہیں۔
اوپن اے آئی کے ایگزیکٹو کرس لیہانے نے کہا کہ اوپن اے آئی بل کی حمایت کرے گا، اسی وقت کیلیفورنیا کے گورنر گیون نیوزوم کے دفتر نے ایک بیان جاری کیا جس میں کہا گیا ہے کہ وہ اس پر دستخط کر دیں گے۔
جولائی میں امریکی ہاؤس کے چھ قانون سازوں کے ایک دو طرفہ گروپ نے قانون سازی کی تجویز پیش کی جس کے تحت طاقتور ترین AI ماڈلز کے ڈویلپرز کو آزادانہ سیکیورٹی آڈٹ کے لیے جمع کرانے کی ضرورت ہوگی۔
بل کے مطابق، آڈیٹرز کو یو ایس ڈپارٹمنٹ آف کامرس کے ذریعے تسلیم کیا جائے گا، اور محکمہ AI سیکیورٹی کی نگرانی کے لیے ایک نئی پوزیشن بنائے گا۔
جارج واشنگٹن یونیورسٹی میں ٹیک لا کی پروفیسر ایلیسیا سولو نائیڈرمین نے کہا، “ان سسٹمز کی نگرانی کے لیے جگہ کا ہونا ضروری ہے، جس میں مناسب طریقے سے پہلے سے تعیناتی کے جائزے اور تیسرے فریق کے آزاد آڈٹ شامل ہیں۔”
Source link
