5 میں سے 3 اے آئی ماڈل دہشت گردی کے حفاظتی ٹیسٹوں میں ناکام ہو جاتے ہیں: مطالعہ
UK کے غیر منافع بخش ٹیک اگینسٹ ٹیررازم نے سیکڑوں نقلی دہشت گردانہ حملوں کے ساتھ 130 سے زیادہ AI ماڈلز کا تجربہ کیا۔
محققین نے پایا کہ ماڈلز ایک ایسے عمل کے ذریعے تبدیل کیے گئے جسے “Abliteration” کہا جاتا ہے، جو حفاظتی تحفظات کو ہٹاتا ہے، ہر ٹیسٹ میں ناکام ہو گئے۔ تصویر: PEXELS
پانچ میں سے تین مصنوعی ذہانت (AI) ماڈلز دہشت گردی کے حفاظتی ٹیسٹوں میں ناکام ہو گئے ہیں، ان ماڈلز سے حفاظتی تدابیر کو چھین لیا گیا ہے جو مسلسل ممکنہ طور پر خطرناک معلومات فراہم کرتے ہیں، تحقیق کے مطابق سی بی سی نیوز جمعہ کو.
یہ مطالعہ، برطانیہ میں قائم غیر منفعتی تنظیم کے ذریعے کیا گیا۔ دہشت گردی کے خلاف ٹیکنے 130 سے زائد اے آئی ماڈلز کا جائزہ لیا جس میں سیکڑوں درخواستوں سے مشابہت کی گئی جو دہشت گرد حملے کی منصوبہ بندی کر سکتے ہیں۔
محققین نے پایا کہ ماڈلز ایک ایسے عمل کے ذریعے تبدیل کیے گئے جسے “Abliteration” کہا جاتا ہے، جو حفاظتی تحفظات کو ہٹاتا ہے، ہر ٹیسٹ میں ناکام ہو گئے۔
میٹا کے Llama 3.1 8B ماڈل نے ترمیم سے پہلے تنظیم کے حفاظتی معیار پر 100 میں سے 97 نمبر حاصل کیے، اس کے بعد تقریباً تین کے مقابلے۔
محققین نے کہا کہ ترمیم شدہ ماڈل نے حملوں، دہشت گردوں کی مالی معاونت اور بنیاد پرستی سے متعلق درخواستوں کے تفصیلی جوابات فراہم کیے، جبکہ اس کے اصل ورژن نے ایسی درخواستوں سے انکار کر دیا۔
مزید پڑھیں: انتھروپک نے نئے بدمعاش AI واقعات میں پولیس کو جعلی ٹپ کا انکشاف کیا۔
ٹیک اگینسٹ ٹیررازم کے بانی اور ایگزیکٹو ڈائریکٹر ایڈم ہیڈلی نے کہا کہ قابل فہم طور پر، کنٹرول کے کھو جانے، AI کے وجودی خطرے کے بارے میں تشویش ہے۔
“بات دراصل یہ ہے کہ یہ پہلے ہی ہوچکا ہے کیونکہ ان میں سے بہت سے کھلے ماڈلز پہلے ہی ٹوٹ چکے ہیں – یہ ابھی تک کسی نے محسوس نہیں کیا ہے۔”
تنظیم کو 29,000 سے زیادہ ذخیرے ملے جو بغیر سینسر شدہ یا غیر محفوظ شدہ AI ماڈلز کی تشہیر کرتے ہیں۔ گلے ملنے والا چہرہ پچھلے مہینے کے آخر تک۔
Hugging Face نے کہا کہ وہ اپنی پالیسیوں کی خلاف ورزی کرنے والے مواد کو باقاعدگی سے معتدل کرتا ہے لیکن خبردار کیا کہ رپورٹ میں کچھ سفارشات کھلی تحقیق کو نقصان پہنچا سکتی ہیں۔
میٹا نے کہا کہ اس کے ماڈلز حفاظتی جائزوں سے گزرتے ہیں اور اس کی پالیسیاں نقصان دہ یا غیر قانونی استعمال کی ممانعت کرتی ہیں۔
رپورٹ میں دہشت گرد یا انتہاپسند گروپوں کے تجربہ کار ماڈلز کے استعمال کا کوئی ثبوت نہیں ملا، اس کے علاوہ محققین کی جانب سے شناخت کیے گئے ایک انتہا پسند چیٹ بوٹ کے۔
ٹیک اگینسٹ ٹیررازم نے خودمختار حفاظتی معیارات، حفاظت سے ہٹانے کے خلاف مضبوط تحفظات اور ترمیم شدہ ماڈلز کی تقسیم پر پابندیوں کی سفارش کی۔
“یہ خیال کہ ہمارے پاس حفاظت اور ترقی نہیں ہو سکتی، میرے خیال میں، غلط ہے،” ہیڈلی نے کہا۔
Source link
