چین کے اے آئی ایجنٹ جھوٹ بول سکتے ہیں اور اسکیم بنا سکتے ہیں۔

چینی طاقت سے چلنے والے AI ایجنٹوں نے دھوکہ دینا، پابندیوں سے بچنا اور ناکامی کو چھپانا سیکھ لیا ہے، جو خود مختار مصنوعی ذہانت میں اس قسم کے خصائص کو ظاہر کرتا ہے جس نے پیدا کیا ہے۔ عالمی الارم امریکی ماڈلز کے بارے میں تحقیقی دستاویزات اور ماہرین کہتے ہیں۔

اس سال ایک معاملے میں، چین کے علی بابا، ڈیپ سیک اور مون شاٹ کے ماڈلز کے ذریعے چلنے والے ایجنٹوں نے نقلی کاروباری ٹینڈر جیتنے کی کوشش میں اپنی صلاحیتوں کے بارے میں جھوٹ بولا، پھر جب دوبارہ کوشش کرنے کو کہا گیا تو اپنے فریب پر مبنی رویے کو دوگنا کر دیا۔

ایک اور معاملے میں، ایجنٹس – ایسے پروگرام جو AI ماڈلز اور کمپیوٹر ٹولز کا استعمال کرتے ہوئے پیچیدہ کاموں کو کم یا بغیر انسانی مداخلت کے انجام دیتے ہیں – نتائج کی نقل کرکے اور فائلوں کو من گھڑت بنا کر امتحانی ماحول میں کام مکمل کرنے میں ناکامی کو چھپاتے ہیں۔

رائٹرز نے یونیورسٹی کے تحقیقی مقالوں سے لے کر تکنیکی رپورٹس تک 200 سے زیادہ دستاویزات کی جانچ کی اور 2025 سے لے کر اب تک کم از کم 20 مطالعات یا جائزوں کی نشاندہی کی جن میں ایجنٹوں نے دھوکہ دہی، نقل اور چیلنجنگ حدود جیسے رویے کا مظاہرہ کیا جسے AI ماہرین نے بریک آؤٹ کے لیے عمارت کے بلاکس کے طور پر بیان کیا اور جو کہ انسانی نظام کو کنٹرول کرنے کے لیے مشکل بن سکتا ہے۔

اس جائزے میں، جس میں ایک درجن ماہرین اور چین کی AI صنعت سے واقف لوگوں کے انٹرویوز بھی شامل تھے، اس بات کا کوئی ثبوت نہیں ملا کہ چینی طاقت والے ایجنٹ آزادانہ طور پر وسیع تر انٹرنیٹ پر فرار ہوئے یا بند ہونے سے بچ گئے۔

جارج ٹاؤن یونیورسٹی کے سینٹر فار سیکیورٹی اینڈ ایمرجنگ ٹیکنالوجی کے ریسرچ فیلو کولن شیا بلیمیر نے کہا کہ “یہ نتائج اس بات کا ثبوت فراہم کرتے ہیں کہ بے قابو فرار کے لیے ضروری اجزاء موجود ہیں۔”

مزید پڑھیں: ٹرمپ منگل کو زکربرگ، اینتھروپکس کے اموڈی اور دیگر AI ٹائٹنز کی میزبانی کریں گے۔

انہوں نے کیسز کا جائزہ لینے والے چار دیگر AI ماہرین کے تبصروں کی بازگشت کرتے ہوئے کہا، “اسے ایک انتباہ کے طور پر لینا سمجھداری کی بات ہے۔”

‘انسانوں کے لیے جواب دینا مشکل’

زیادہ تر معاملات کنٹرول شدہ تجربات میں پیش آئے، ان میں سے بہت سے جان بوجھ کر ممکنہ ناکامیوں کو بے نقاب کرنے کے لیے ڈیزائن کیے گئے۔

اس میں شامل تمام ایجنٹوں کو چینی پروگرامرز یا AI کمپنیوں کے ذریعے تیار یا چلایا نہیں گیا تھا – اگرچہ بہت سے تھے – لیکن انہوں نے چینی AI سسٹمز کو طاقت کے لیے استعمال کیا۔

“یہ وہی انتباہی علامات ہیں جو امریکی لیبز کم قابل نظاموں میں دیکھ رہی ہیں،” ریڈووڈ ریسرچ کے ایک محقق الیکس میلن نے کہا، ایک غیر منفعتی ادارہ جو جدید AI سسٹمز میں خطرات کا مطالعہ کرتا ہے۔

انہوں نے کہا کہ چینی مثالیں موجودہ صلاحیت کی سطح پر خاص طور پر خطرناک نہیں ہیں لیکن “جیسا کہ ایجنٹ زیادہ قابل ہوتے جاتے ہیں، ان کی بداعمالیاں زیادہ قابل ہوتی جاتی ہیں اور اس لیے انسانوں کے لیے جواب دینا مشکل ہو جاتا ہے۔”

علی بابا، ڈیپ سیک، مون شاٹ اور Z.ai نے تبصرہ کے لیے رائٹرز کی درخواستوں کا جواب نہیں دیا۔ علی بابا، ڈیپ سیک اور مون شاٹ نے کہا ہے کہ وہ باقاعدگی سے سسٹم کی جانچ کرتے ہیں اور حفاظتی تدابیر کو اپ ڈیٹ کرتے ہیں۔ Z.ai نے ایک واقعے کے بعد کہا جس نے اس کی سیکیورٹی کے جائزے کا اشارہ کیا کہ وہ کسی بھی مسئلے کو حل کرنے کے لیے جانچ پڑتال کا خیرمقدم کرتا ہے۔

تاہم، امریکہ کے برعکس، چینی AI کمپنیوں کو عوامی جانچ کی ایک ہی سطح کا سامنا نہیں کیا گیا ہے یا ان کی طرف سے ایک جیسی کالوں کا سامنا نہیں کیا گیا ہے۔ سیٹی بجانے والے ملازمین یا سینئر ایگزیکٹوز AI کی دوڑ میں سست روی کی تلاش میں۔

چینی طاقت سے چلنے والے ایجنٹوں کے معاملات میں کچھ انتباہی علامات، اگرچہ موجود ماحول میں، انٹرنیٹ پر امریکی AI بوٹس کی ہیکنگ کے عوامی طور پر افشاء ہونے والے واقعات کی پیشگی تھی۔

27 جنوری 2025 کو لی گئی اس تصویر میں ڈیپ سیک لوگو نظر آتا ہے۔ REUTERS

“ہمیں نہیں معلوم کہ چین میں AI کے ایسے کوئی واقعات ہوئے ہیں جو ہم نے OpenAI اور Hugging Face کے ساتھ دیکھے ہیں۔ ہو سکتا ہے کہ واقعات کو عوامی طور پر رپورٹ نہ کیا جائے،” اسکاٹ سنگر، ​​کارنیگی اینڈومنٹ فار انٹرنیشنل پیس میں چائنا AI انیشیٹو کے شریک ڈائریکٹر نے کہا، جسے امریکی حکومت کے کچھ فنڈز ملتے ہیں۔

اس سال کے شروع میں، امریکی فرم OpenAI کے تیار کردہ AI ایجنٹس ایک لیبارٹری سے فرار ہو گئے اور اوپن سورس پلیٹ فارم کو ہیک کر لیا۔ گلے ملنے والا چہرہ. ایک اور واقعے میں امریکی ماڈلز شامل ہیں۔ الارم اٹھایا، آسٹریلیا نے ستمبر میں کہا ایک OpenAI ایجنٹ سرکاری ہیلتھ پورٹل کی خلاف ورزی کی۔

ایرک سو، چین کی ٹیک کمپنی ہواوے کے گھومنے والے چیئرمین، ستمبر میں صحافیوں کو بتایا کہ چینی ڈویلپرز کو اس طرح کے معاملات کا سامنا کرنے سے پہلے مزید پیشرفت کرنے کی ضرورت ہو سکتی ہے، لیکن انہوں نے مزید کہا: “میرے خیال میں ہمیں اے آئی کی ترقی اور ڈرائیونگ کے درمیان توازن قائم کرنے کی ضرورت ہے۔ AI خطرے کا انتظام“

سائبر اسپیس ایڈمنسٹریشن آف چائنا (سی اے سی) کے عہدیداروں نے جولائی میں ایک غیر ملکی سفارت کار کو بتایا تھا کہ مون شاٹ کا Kimi-K3 – سب سے زیادہ جدید چینی AI ماڈلز میں سے ایک – امریکہ کے معروف حریفوں سے تقریباً تین سے چھ ماہ پیچھے ہے، سفارت کار نے نام ظاہر نہ کرنے کی شرط پر بتایا۔

ریگولیٹر، جو خطرات سے نمٹنے اور ایجنٹوں کے لیے حدود طے کرنے کے لیے باقاعدگی سے رہنمائی کو اپ ڈیٹ کرتا ہے، اور چین کی وزارت خارجہ نے اس مضمون کے لیے تبصرہ کی درخواستوں کا جواب نہیں دیا۔

سی اے سی کے سائبرسیکیوریٹی کوآرڈینیشن بیورو کے ڈپٹی ڈائریکٹر وانگ لیہونگ نے یکم ستمبر کو کہا کہ ٹیکنالوجی کی بڑی کمپنیوں کی طرف سے انکشاف کردہ ایسے واقعات جہاں ماڈلز ٹیسٹ کے ماحول سے بچ گئے تھے “انتہائی نقصان کے کنٹرول کے خطرات” کو ظاہر کرتے ہیں اور “اعلی درجے کی چوکسی” کی ضرورت ہے۔

انہوں نے یہ واضح نہیں کیا کہ جن کمپنیوں کا اس نے حوالہ دیا وہ امریکی ہیں یا چینی۔

دی اے آئی کی دو سپر پاورز کے رہنماڈونلڈ ٹرمپ اور شی جن پنگ نے گزشتہ ہفتے چینی صدر کے دورہ واشنگٹن کے موقع پر اے آئی پر تبادلہ خیال کیا۔ شی نے کہا کہ دونوں ممالک کے پاس “اے آئی کو بہتر بنانے اور اس کا انتظام کرنے کی صلاحیت اور ذمہ داری” ہے۔

جھوٹ بولنا سیکھنا

مارچ کے کاروباری ٹینڈر کے تجربے میں، بیہانگ یونیورسٹی، پیکنگ یونیورسٹی، یونیورسٹی آف ناٹنگھم ننگبو چائنا اور 360 AI سیکیورٹی لیب کے محققین نے ایجنٹوں کو ایک مصنوعی کسٹمر کنٹریکٹ بولی لگانے کے مقابلے میں حصہ لیا۔ ہر ایجنٹ کو بتایا گیا کہ اس کا پروڈکٹ کیا کر سکتا ہے اور گاہک کو کیا ضرورت ہے، اور پھر بولی لگانے کو کہا گیا۔

علی بابا کے Qwen3-Max-Preview کے 88% سیشنز میں کم از کم ایک جھوٹا دعویٰ سامنے آیا، %84 DeepSeek-V3.2-Exp اور 88% Moonshot’s Kimi-K2 کے لیے۔

محققین نے ایجنٹوں کو دوبارہ کوشش کرنے سے پہلے بولی لگانے کے پچھلے دوروں سے سیکھنے کی اجازت دی۔ تحقیق میں بتایا گیا کہ تین چینی ماڈلز کے لیے دھوکہ دہی میں 12 سے 20 فیصد پوائنٹس کا اضافہ ہوا۔ ٹیسٹ میں شامل امریکی فرموں کے ماڈلز نے اسی طرح کے نتائج برآمد کیے ہیں۔

اگرچہ یہ مشق مجازی تھی، یہ بیجنگ کے حقیقی دنیا کے منصوبوں سے مشابہت رکھتی تھی۔ مئی میں جاری کردہ حکومتی رہنمائی میں بولی لگانے اور ٹینڈرنگ کو ان علاقوں کے طور پر درج کیا گیا جہاں AI ایجنٹوں کو تعینات کیا جا سکتا ہے۔

ایک اور تحقیق، جو دسمبر 2025 میں شائع ہوئی اور اس سال مشین لرننگ پر بین الاقوامی کانفرنس میں پیش کی گئی، اس بات کا جائزہ لیا گیا کہ چینی اور امریکی ماڈلز کے ذریعے چلنے والے 11 AI ایجنٹوں نے اگر ٹوٹے ہوئے ٹولز، فائلوں کی گمشدگی اور دیگر رکاوٹوں کا سامنا کیا تو کس طرح ان کا مقابلہ کیا۔

ناکامی کو تسلیم کرنے کے بجائے، چینی اور امریکی AI دونوں نظاموں کا استعمال کرنے والے ایجنٹوں نے مسئلے کو حل کرنے کے لیے بہت سی تکنیکوں کا انتخاب کیا، جس میں جوابات کا اندازہ لگانا، ذرائع کو تبدیل کرنا، نتائج کی نقل کرنا اور فائلیں بنانا شامل ہیں۔

شنگھائی اے آئی لیبارٹری اور ہانگ کانگ یونیورسٹی آف سائنس اینڈ ٹکنالوجی کے محققین جنہوں نے یہ مطالعہ کیا تھا نے روئٹرز کو بتایا کہ رویہ AI فریب نظر سے مختلف ہے، جہاں AI معلومات ایجاد کرتا ہے اور اسے حقیقت کے طور پر پیش کرتا ہے، کیونکہ اس معاملے میں ایجنٹوں کے پاس معلومات تھی جس سے ظاہر ہوتا ہے کہ کام ناکام ہو گیا تھا یا درخواست کے مطابق مکمل نہیں ہو سکا۔

بریک آؤٹ کے ساتھ ہم آہنگ برتاؤ

رائٹرز کے ذریعہ جائزہ لینے والی دیگر تحقیقی دستاویزات میں دکھایا گیا ہے کہ چینی طاقت سے چلنے والے ایجنٹ کاموں کو حاصل کرنے یا بند ہونے سے بچنے کے لئے کارروائی کرنے کے لئے آزمائشی ماحول کے اندر رکاوٹوں کو چھلانگ لگاتے ہیں۔ ایسے رویے ٹیسٹ کے ماحول سے باہر نکلنے کی کوششوں کے ساتھ مطابقت رکھتے ہیں، چاہے کوئی بریک آؤٹ نہ ہوا ہو۔

شنگھائی میں مقیم فوڈان یونیورسٹی کے محققین نے مارچ 2025 میں اطلاع دی تھی کہ علی بابا کے Qwen2.5-72B-انسٹرکٹ سے چلنے والے ایک AI سسٹم نے کسی دوسرے کمپیوٹنگ ماحول میں نقل کرنے کی ہدایت کیے بغیر خود کی ایک کاپی بنائی ہے، اس معلومات کا سامنا کرنے کے بعد جو یہ ظاہر کرتی ہے کہ اسے تبدیل کیا جا رہا ہے۔ دوسرے ٹیسٹوں میں اس نے بند ہونے سے بچنے کے لیے حکمت عملی وضع کی۔

یہ بھی پڑھیں: اوپن اے آئی نے آسٹریلوی حکومت کی ویب سائٹ ہیک کے لیے معذرت، اعتماد بحال کرنے کا وعدہ کیا۔

چینی، امریکی اور فرانسیسی ماڈلز کے ذریعے چلنے والے ایجنٹوں کے تجربات کو کنٹرول کیا گیا تھا اور ان میں AI ایجنٹ کو وسیع تر ویب میں فرار ہونے یا روکنا ناممکن ہونے کو نہیں دکھایا گیا تھا۔

ایک اور معاملے میں – مارچ میں میڈیا میں زیادہ وسیع پیمانے پر رپورٹ ہونے والے چند میں سے ایک – علی بابا سے منسلک ROME ایجنٹ کو تیار کرنے والے محققین نے کہا کہ اس نے علی بابا کلاؤڈ کمپیوٹر سے ایک بیرونی مشین سے رابطہ قائم کیا اور بغیر کسی ہدایت کے کمپیوٹنگ وسائل کو مائن کریپٹو کرنسی کی طرف موڑ دیا۔

سیکیورٹی سسٹم نے سراغ لگا کر سرگرمی روک دی۔ اس بات کا کوئی ثبوت نہیں تھا کہ ایجنٹ نے بیرونی کمپیوٹر پر موجودگی قائم کی ہو یا وسیع ویب پر پھیلی ہو۔ لیکن مثال نے دکھایا کہ یہ نظام انسانی ہدایات کو پس پشت ڈال سکتا ہے اور ممکنہ طور پر حقیقی دنیا کی معیشت میں راستہ تلاش کر سکتا ہے۔

چین کے ڈیپ سیک نے ستمبر میں کہا تھا کہ اس کے پروڈکشن ٹریننگ سسٹم میں ایجنٹوں نے غیر ارادی چینلز کے ذریعے جوابات طلب کیے تھے، صارف کی درخواستوں کو جعل سازی کرنے اور حفاظتی اقدامات کو روکنے کی کوشش کرتے ہوئے کمپنی کو رسائی کے کنٹرول کو سخت کرنے پر مجبور کیا تھا۔

چین نے مئی میں رہنمائی جاری کی تھی جس میں ایجنٹوں کو مجاز حدود میں رہنے اور غیر معمولی رویے کو روکنے کے لیے سسٹمز کے لیے کہا گیا تھا۔ اس میں کہا گیا ہے کہ حساس سمجھے جانے والے علاقوں یا اہم صنعتوں میں ایجنٹوں کو اضافی جانچ اور مصنوعات کی واپسی کی ضروریات کا سامنا کرنا پڑ سکتا ہے۔

چین کا AI سیفٹی گورننس ⁠فریم ورک 3.0، جو 14 ستمبر کو CAC کی رہنمائی کے تحت جاری کیا گیا، نے ایسے خطرات کی نشاندہی کی جن میں ایجنٹوں کا آزادانہ طور پر وسائل یا اجازتیں حاصل کرنا، تشخیص کاروں کو دھوکہ دینا، صلاحیتوں کو چھپانا اور الگ تھلگ کمپیوٹر ماحول میں کمزوریوں کا استحصال کرنا شامل ہے۔

کچھ امریکی ایگزیکٹوز کی جانب سے سست روی کی کال کے جواب میں، چینی محققین اور سرکاری میڈیا نے کہا ہے کہ جدید ترین AI ماڈلز کی سست رفتاری سے امریکی کمپنیوں کی تکنیکی برتری کو محفوظ رکھنے میں مدد مل سکتی ہے۔

بہر حال، چینی AI لیبارٹریز سے واقف دو لوگوں نے کہا کہ علی بابا، Z.ai اور Xiaomi سمیت کمپنیاں اندرونی حفاظتی تشخیص کی ٹیمیں بنا رہی ہیں۔

Z.ai، ایک میں نایاب عوامی انکشاف سیکیورٹی کی خلاف ورزی کی ایک چینی AI لیب نے کہا کہ اس ماہ اس نے اپنے فلیگ شپ AI کوڈنگ اسسٹنٹ کی کچھ خصوصیات کو غیر فعال کر دیا ہے جب صارفین نے اطلاع دی کہ وہ صارف کی رضامندی کے بغیر پوری مقامی کوڈ ریپوزٹری کو خفیہ طور پر بیرون ملک کلاؤڈ سرورز پر اپ لوڈ کر رہا ہے۔

کارنیگی کے سنگر نے کہا کہ چین تباہ کن خطرات کا جائزہ لینے کے لیے ایک ماحولیاتی نظام تیار کرنے میں امریکہ سے پیچھے ہے، اور کہا کہ امریکی ڈویلپرز کافی زیادہ رضاکارانہ جانچ کر رہے ہیں۔

انہوں نے کہا کہ چین کے لیے اے آئی سیفٹی پر کام بہت نیا ہے۔ “ماحولیاتی نظام کم پختہ ہے۔”