عالمی مالیاتی نگران ایجنٹ AI کی زیادہ انسانی نگرانی کا مطالبہ کرتا ہے۔

فنانشل اسٹیبلٹی بورڈ (FSB)، جو ایک عالمی معیار کا تعین کرنے والا ہے، نے ٹیکنالوجی کے خطرات سے نمٹنے کے لیے بینکوں اور دیگر فرموں کے لیے حتمی رہنمائی میں ایجنٹ AI کی زیادہ سے زیادہ انسانی نگرانی پر زور دیا ہے۔

جمعرات کو شائع ہونے والی FSB کی رہنمائی، ایسے وقت میں سامنے آئی ہے جب ریگولیٹرز AI کے بڑھتے ہوئے خطرات پر قابو پانے کے لیے کوششیں تیز کر رہے ہیں، بشمول AI سے چلنے والے سائبر حملوں کا خطرہ، رائٹرز اس ہفتے رپورٹ کیا.

بورڈ نے مالیاتی شعبے میں مصنوعی ذہانت کے ایجنٹوں کے استعمال کے بارے میں اپنی سفارشات کو مضبوط کیا ہے، جس میں زیادہ خطرہ والے استعمال کے معاملات میں زیادہ گہری انسانی نگرانی کا مطالبہ کیا گیا ہے۔

اپنی حتمی رہنمائی میں، ایف ایس بی نے کہا کہ فرموں کو واضح، خطرے پر مبنی محرکات طے کرنے چاہئیں جب AI ایجنٹوں کو انسانی منظوری حاصل کرنی چاہیے۔

پڑھیں: محققین کا کہنا ہے کہ اسرائیلی فرم نے وسیع جاسوسی آپریشن چلانے کے لیے آن لائن اشتہارات کا استعمال کیا۔

گروپ نے کہا کہ اس نے جون میں شائع ہونے والے مسودے کی رہنمائی، ٹیکنالوجی کو اپنانے میں مالیاتی اداروں کی بڑھتی ہوئی دلچسپی، اور اس میں شامل الگ الگ خطرات اور کنٹرول کے بارے میں رائے کے بعد ایجنٹی AI پر اپنی سفارشات کو مضبوط کیا ہے۔

FSB کی جون کے مسودے کی رہنمائی میں کہا گیا ہے کہ AI ایجنٹس، جو محدود انسانی نگرانی کے ساتھ کاموں کی منصوبہ بندی اور ان کو انجام دے سکتے ہیں، انسانی نگرانی کے لیے الگ الگ چیلنجز پیش کرتے ہیں۔

واقعات کے ایک سلسلے نے پالیسی سازوں کے تحفظات کو روکنے کے لیے AI سسٹمز کے ممکنہ خدشات کو بڑھا دیا ہے، جس میں جولائی کا ایک واقعہ بھی شامل ہے جس میں ایک OpenAI ایجنٹ کنٹرول شدہ ٹیسٹنگ ماحول سے بچ گیا اور AI کمپنی Hugging Face کو ہیک کر لیا۔

FSB نے ایک رہنما خطوط بھی ہٹا دیا جس میں یہ تجویز کیا گیا تھا کہ مالیاتی ادارے AI کو “مصنوعی ملازمین” کے طور پر پیش کریں۔

اس کے بجائے، فرموں کو یہ تسلیم کرنا چاہیے کہ “AI ایجنٹ انسانوں کی طرح استدلال نہیں کرتے اور غیر متوقع طریقوں سے پہلے سے طے شدہ اہداف کی تشریح کر سکتے ہیں،” FSB نے کہا۔