OpenAI، Anthropic اور Google ایک AI سٹینڈرڈز باڈی بنانے کے لیے کام کر رہے ہیں۔
AI کی حفاظت کے خدشات بڑھ گئے ہیں، دو کارکنوں نے صنعت کے خطرات پر بڑے ڈویلپرز سے استعفیٰ دے دیا ہے۔
حالیہ مہینوں میں، OpenAI اور Anthropic نے کئی واقعات کی اطلاع دی ہے جس میں AI سسٹمز بے ساختہ اپنے محدود ماحول سے باہر نکل کر انٹرنیٹ تک رسائی حاصل کرتے ہیں اور ویب سائٹس اور پلیٹ فارمز پر حملہ کرتے ہیں۔ فوٹو: اے ایف پی:
دنیا کی سب سے بڑی اے آئی کمپنیاں ایک معیاری ادارہ بنانے پر کام کر رہی ہیں، چیٹ جی پی ٹی بنانے والی کمپنی OpenAI نے منگل کو کہا، کیونکہ AI کے خطرات کے بارے میں خدشات بڑھ رہے ہیں اور ٹیکنالوجی کا ایک محفوظ ورژن بنانے کے لیے دباؤ ڈالا جا رہا ہے۔
OpenAI نے کہا کہ وہ Anthropic اور Google کے ساتھ ایک خیال پر کام کر رہا ہے جو Google DeepMind کے Demis Hasabis کی طرف سے ایک خود ریگولیٹری باڈی کے لیے تجویز سے شروع ہوا ہے جس کا نمونہ فنانشل انڈسٹری ریگولیٹری اتھارٹی کے بعد بنایا گیا ہے جو امریکی بروکرز اور سرمایہ کاری فرموں کی نگرانی کرتی ہے۔
جولائی میں، ہیسبیس نے ریاستہائے متحدہ سے ایک ایسی تنظیم بنانے کا مطالبہ کیا جو عوام کے لیے جاری کیے جانے سے پہلے سب سے زیادہ طاقتور AI سسٹمز کی جانچ کرے۔
حسابیس نے لکھا، “عالمی معیار کی تکنیکی صلاحیتوں کو راغب کرنے اور بڑے پیمانے پر جانچ کے لیے ضروری کمپیوٹ وسائل فراہم کرنے کے لیے، فنڈنگ کافی اور ممکنہ طور پر صنعت سے آتی ہے۔”
اگرچہ آگے بڑھنے کے طریقہ پر کوئی اتفاق رائے نہیں ہے۔
کینیڈا کی AI کمپنی Cohere کے چیف نے حال ہی میں غالب امریکی AI لیبز پر حفاظت کی آڑ میں “کارٹیل” بنانے کا الزام لگایا۔
کوہیر کے شریک بانی اور سی ای او ایڈن گومز نے اتوار کو ایک بلاگ پوسٹ میں لکھا، “اے آئی کو گارڈریلز کی ضرورت ہے۔ یہ تنازعہ نہیں ہے اور کبھی نہیں تھا۔ تنازعہ اس بات پر ہے کہ انہیں کون لکھتا ہے، کون حصہ لیتا ہے اور قوانین کس کے مفادات کی حفاظت کر رہے ہیں۔”
مزید پڑھیں: سابق گوگل ڈیپ مائنڈ محقق نے انتباہات میں اضافہ کیا ہے کہ اے آئی ‘تمام انسانوں کو مار سکتا ہے’
حالیہ ہفتوں میں AI کی حفاظت کے بارے میں خدشات بڑھ گئے ہیں، بشمول دو کارکنوں کی جانب سے انتباہات جنہوں نے صنعت کے خطرات کے بارے میں خدشات کے درمیان بڑے AI ڈویلپرز سے استعفیٰ دے دیا تھا۔
پچھلے ہفتے، جیکب کوکسن نے انتھروپک چھوڑ دیا اور خبردار کیا کہ اے آئی کمپنیاں “ہماری زندگیوں کے ساتھ جوا کھیل رہی ہیں۔” اس نے پہلے اوپن اے آئی میں بھی کام کیا تھا۔
پیر کو گوگل ڈیپ مائنڈ کے سابق محقق بلال چغتائی نے کوکسن اور دیگر کی طرف سے اٹھائے گئے خدشات کی بازگشت کی۔
چغتائی نے سوشل میڈیا پر لکھا، “میں دل سے یقین رکھتا ہوں کہ AI میں ہم سب کو مار ڈالنے کی صلاحیت ہے، اور یہ کہ اس نتیجے سے بچنے کے لیے ہمارے پاس وقت ختم ہو سکتا ہے۔”
ہفتہ کو، اینتھروپک کے سی ای او ڈاریو آمودی نے AI کی ترقی کی رفتار میں کمی کا مطالبہ کیا، ایک ایسا جذبہ جس کی OpenAI کے سی ای او سیم آلٹمین، ایلون مسک اور حسابیس نے حمایت کی۔
تاہم امریکی صدر ڈونلڈ ٹرمپ نے اے آئی کے خطرات سے متعلق انتباہات کو “دھوکہ دہی” کے طور پر مسترد کر دیا ہے۔
Nvidia کے سی ای او جینسن ہوانگ نے بھی پیچھے ہٹ گئے ہیں۔
ہوانگ نے پیر کو لاس اینجلس میں ایک کانفرنس میں کہا جہاں ٹرمپ نے انہیں سٹیج پر بلایا تھا، “ان الفاظ اور پھر پیشین گوئی کا سنگم تشویشناک اور پریشان کن ہے اور ایسا نہیں کیا جانا چاہیے۔ یہ غیر ذمہ دارانہ ہے۔”
ہوانگ نے کہا کہ خوفناک نقطہ نظر کہ AI انسانیت کو تباہ کر سکتا ہے “سائنس پر مبنی نہیں ہے۔”
Source link
