جیمنی نے گوگل کے اے آئی کے ذریعہ پہلے معلوم بریک آؤٹ میں تین کمپنیوں کو ہیک کیا۔

گوگل کے جیمنی ماڈل نے انٹرنیٹ تک رسائی حاصل کی اور اس کی سائبرسیکیوریٹی صلاحیتوں کی جانچ کے دوران دوسری کمپنیوں کو ہیک کیا، کمپنی کے AI سسٹمز کی خود مختاری سے اس طرح کے عمل کا ارتکاب کرنے کی پہلی معروف مثال ہے۔

یہ ہیکس مئی میں سائبرسیکیوریٹی ٹیسٹ کے دوران ہوئے تھے جو سائبرسیکیوریٹی کے جائزے کرنے والی ایک آزاد کمپنی Irregular کے ذریعہ کرائے گئے تھے۔

معیاری جانچ کی جانچ کے دوران، جیمنی نے عوامی معلومات کو آن لائن پایا اور تین ویب سائٹس تک رسائی کے لیے اسناد کا اندازہ لگایا جو اس کے خیال میں اس کے ٹیسٹ کے دائرہ کار میں ہیں، ہیدر ایڈکنز، گوگل کی سیکیورٹی انجینئرنگ کی نائب صدر، نے ایک بیان میں کہا۔

ایڈکنز نے کہا، “ہم نے اس بات کو یقینی بنایا کہ تینوں اداروں کو آگاہ کر دیا گیا ہے، اور ہم نے اپنے تربیتی پارٹنر کے ساتھ ان تبدیلیوں پر کام کیا جو انہوں نے اب اپنے ٹیسٹنگ کے عمل میں کی ہیں۔” “یہ واقعات ذمہ داری سے کام کرنے کے لیے طاقتور AI ماڈلز کی تربیت کی اہمیت کو اجاگر کرتے ہیں۔”

مزید پڑھیں: چینی اسٹارٹ اپ اسپرٹ اے آئی کے بانی کا کہنا ہے کہ روبوٹ دماغ 2027 کی پیش رفت کے لیے تیار ہیں۔

ایک فاسد ترجمان نے کہا کہ اس واقعے میں وہی مسئلہ شامل ہے جس نے دیگر AI لیبز کو متاثر کیا اور تمام متعلقہ لیبز کو جولائی کے آخر میں مطلع کر دیا گیا۔ ترجمان نے کہا کہ “ہماری طرف سے تمام معلوم مسائل کا تدارک کیا گیا تھا اور ہفتے پہلے ہی حل کر لیا گیا تھا۔”

فاسد سے منسلک اسی طرح کے واقعات کا انکشاف میٹا، اینتھروپک اور اوپن اے آئی نے کیا۔ میٹا نے اگست میں کہا واقعہ اس میں سینڈ باکس سے فرار یا جدید ترین سائبر اٹیک شامل نہیں تھا، جب کہ Irregular نے کہا کہ وہ AI سائبر سیکیورٹی کے جائزوں کو محفوظ طریقے سے کرنے کے لیے بہترین طریقوں پر کام کر رہا ہے۔

ان واقعات نے حفاظتی اقدامات کے بارے میں سوالات اٹھائے ہیں جن کی ضرورت ہے کیونکہ AI ایجنٹوں کو زیادہ خود مختاری حاصل ہوتی ہے اور انٹرنیٹ اور کمپیوٹر سسٹم تک رسائی حاصل ہوتی ہے۔

ایک صورت میں، جیمنی ماڈل نے پاس ورڈ کا اندازہ لگایا جب تک کہ اسے محفوظ نظام تک رسائی حاصل نہ ہو جائے۔ دیگر دو صورتوں میں، ماڈل کو عوامی ذخیرے میں اسناد ملے جس نے اسے محفوظ نظاموں تک رسائی کی اجازت دی، وال اسٹریٹ جرنل کے مطابق، جس نے جمعہ کو پہلی بار خبر کی اطلاع دی۔

ایڈکنز نے کہا کہ تینوں صورتوں میں، ماڈل نے اپنی ہیکنگ کو روک دیا۔