اینتھروپک نے خبردار کیا ہے کہ اے آئی ماڈلز جلد ہی ڈیٹا سینٹرز تک رسائی کے بغیر خود کو نقل کر سکتے ہیں۔

اپنے تجربات میں، Anthropic نے دیکھا کہ آیا AI ماڈلز کمزور آلات تلاش کر سکتے ہیں، خود کو ان آلات میں کاپی کر سکتے ہیں، اور انسانی مدد کے بغیر پھیلنا جاری رکھ سکتے ہیں۔

اس نے پایا کہ 30 بلین پیرامیٹرز کے تحت چھوٹے ماڈلز نقل کے لیے درکار بہت سے مراحل کو مکمل کر سکتے ہیں۔

تاہم، فرم نے پایا کہ اس طرح کے AI ماڈلز نے شروع سے آخر تک پوری ترتیب کو مکمل کرنے کے لیے جدوجہد کی۔

اس کے آسان ٹیسٹوں میں، جہاں کچھ حفاظتی اقدامات کو ہٹا دیا گیا، اینتھروپک نے پایا کہ GLM-5.2 اور مضبوط ماڈلز آخر سے آخر تک نقل کرنے کے قابل ہیں۔

انتھروپک نے خبردار کیا کہ ماڈلز کو نقل کرنا بند کرنا مشکل ہو گا کیونکہ وہاں کوئی سنٹرل سوئچ آف پوائنٹ نہیں ہے اور، غیر AI میلویئر کے برعکس، وہ ڈیٹا سینٹر پروسیسرز کو نشانہ بناتے ہوئے، اپنے طور پر غیر مانوس آلات کا بھی پتہ لگا سکتے ہیں۔

مزید پڑھیں: مائیکروسافٹ اپنے AI چپس کی بڑی تعیناتی کا منصوبہ بناتا ہے، لاگت کو بچانے کے لیے

فرم نے اپنی تحقیق میں IoT آلات جیسے Android TVs، سمارٹ ایپلائینسز، اور انٹرنیٹ سے منسلک دیگر گیجٹس پر توجہ مرکوز کی کیونکہ یہ عام طور پر ناقص طور پر محفوظ ہوتے ہیں۔

AI میجر نے یہ بھی متنبہ کیا کہ اگر چھوٹے ماڈلز اپنی تاریخی شرح سے بہتر ہوتے ہیں، تو وہ اس سال کے آخر تک خودکار طریقے سے نقل کرنے کے قابل ہو جائیں گے، اس کے بعد جلد ہی اس کی پیروی کرنے والے چھوٹے وزن پر مبنی ریپلیٹرز کے ساتھ۔

اینتھروپک نے یہ بھی کہا کہ اس طرح کے خود مختار AI نظاموں کے آہستہ آہستہ نقل کرنے اور وسیع پیمانے پر دستیاب، نسبتاً غیر محفوظ کمپیوٹنگ وسائل پر انحصار کرنے کا امکان ہے۔ اس نے مزید کہا کہ ایسے AI ایجنٹوں کے پھیلاؤ کو مشکل بنانے کے لیے سسٹمز کو مضبوط کیا جانا چاہیے۔