ایپل کی پیشن گوئی ٹیکسٹ پابندیوں میں ‘ڈکٹیٹر ٹرمپ’ اور ‘سلیپی جو’ شامل ہیں، محقق نے پایا

ایپل کے پاس دسیوں ہزار الفاظ اور فقروں کی ایک غیر ظاہر شدہ کثیر لسانی سرمئی فہرست ہے جو اس کا iOS کی بورڈ خود بخود مکمل یا سوائپ ٹائپ نہیں کرے گا، ایک محقق نے جمعہ کو کہا۔

فہرست پابندی نہیں ہے۔ ای میلز اور ٹیکسٹس کا مسودہ تیار کرتے وقت آئی فون صارفین اب بھی اپنی پسند کی چیز ٹائپ کر سکتے ہیں۔ لیکن فہرست میں موجود الفاظ زیادہ تر معاملات میں خودکار تکمیل یا سوائپ ٹائپنگ کے ذریعے صارفین کو تجویز نہیں کیے جائیں گے، جس سے ایک ونڈو کھل جائے گی کہ ایپل اپنے آلات کو صارفین کو جارحانہ یا سیاسی طور پر چارج شدہ تجاویز پیش کرنے سے روکنے اور ان کے کہنے کی کوشش کرنے کے درمیان ٹریڈ آف کا انتظام کیسے کرتا ہے۔

دنیا بھر میں کروڑوں لوگ آئی فونز کا استعمال کرتے ہیں، اس لیے ایپل کے انتخاب کے بارے میں جو الفاظ اس کا کی بورڈ تجویز کرتا ہے وہ خاموشی سے شکل دے سکتا ہے کہ وہ کیسے بات چیت کرتے ہیں۔ محقق نے کہا کہ ایپل نے اس فہرست کو عوامی طور پر ظاہر نہیں کیا ہے۔

حال ہی میں اس فہرست کو دریافت کرنے والے آزاد محقق ڈیرک کافمین کے مطابق، جھنڈے والے الفاظ اور جملے حد سے زیادہ بے ہودہ یا جارحانہ ہیں یا منشیات، جنسی یا تشدد سے متعلق ہیں۔ لیکن دوسرے جملے صرف سیاسی طور پر نمایاں ہیں، جیسے “ڈکٹیٹر ٹرمپ” اور “نیند مند جو”۔

ایک ای میل میں، ایپل نے براہ راست کاف مین کے نتائج پر کوئی تبصرہ نہیں کیا، بشمول اس کی فہرست کا سائز یا ساخت، یا بعض سیاسی اصطلاحات کو جھنڈا لگانے کی وجوہات۔ اس میں کہا گیا ہے کہ آئی فون صارفین کے پاس ہمیشہ مخصوص الفاظ یا جملے ٹائپ کرنے کا اختیار ہوتا ہے اور وہ ہمیشہ کسی بھی پیشین گوئی والے متن کی تجاویز کو اوور رائیڈ کر سکتے ہیں۔ ایپل نے کہا کہ اس کا کی بورڈ ایسی تجاویز پیش کرنے سے بچنے کے لیے ترتیب دیا گیا تھا جو نامناسب یا ناگوار ہو سکتی ہیں۔

کاف مین کے مطابق iOS کی پیش گوئی کرنے والے متن کی خصوصیات سے خارج کیے گئے دیگر فقروں میں “دائیں بازو کی سازش” کے ساتھ ساتھ “تبت کی آزادی” اور “متحدہ آئرلینڈ” شامل ہیں۔ غیر انگریزی زبانوں میں مختلف جھنڈے والے الفاظ یا جملے ہوتے ہیں۔ کاف مین کے مطابق، ہندی میں، مثال کے طور پر، کی بورڈ صارفین کو “مودی ڈینگر” یا “راہول پپو ہے” ٹائپ کرنے کی اجازت نہیں دیتا، بالترتیب ہندوستان کے وزیر اعظم نریندر مودی اور ان کے سرکردہ حریف راہول گاندھی پر تنقید کرتا ہے۔

انہوں نے کہا کہ فرانسیسی بولنے والے فرانسیسی جملے “امیگریشن بہت زیادہ” کو سوائپ نہیں کرسکتے ہیں اور یہ کہ عبرانی بولنے والے “مقبوضہ علاقوں” کو سوائپ نہیں کرسکتے ہیں۔

“ہر بڑی زبان میں اس کا کوئی نہ کوئی ورژن ہوتا ہے،” کاف مین نے کہا۔

کافمین نے کہا کہ یہ بات قابل فہم ہے کہ ایپل صارفین کو غلطی سے فحش پیغامات یا اشتعال انگیز نعرے بھیجنے سے روکنا چاہتا ہے۔ لیکن انہوں نے کہا کہ ایپل نے اس خصوصیت کو کس طرح لاگو کیا اس میں تضادات ہیں۔ مثال کے طور پر، اس نے کہا کہ “ریڈ اسمٹ” کو سوائپ ٹائپ کیا جا سکتا ہے جبکہ “ریڈ گی smut” نہیں کر سکتا۔

کاف مین نے کہا کہ یہ سنسر شپ کی ایک بہت ہی ہلکی پھلکی شکل ہے۔ “لیکن ایپل جس پیمانے پر کام کر رہا ہے، اس پر بڑا اثر ڈالنے کے لیے صرف ایک ہلکا ٹچ لیتا ہے۔”

گرے لسٹ کا پتہ کیسے چلا؟

کاف مین نے کہا کہ اسے ستمبر میں یہ فہرست اس وقت ملی جب اس کی سوائپ ٹائپنگ – ہر لفظ کو انفرادی طور پر نکالنے کے بجائے کی بورڈ پر انگلی کو آگے پیچھے کرنے کی مشق – کچھ جملے جیسے “برے لڑکے” یا “سفید آدمی” پر ہکلاتی ہے لیکن “بری لڑکی” یا “کالا آدمی” نہیں۔

مزید پڑھیں: حکام نے AI بوم کے درمیان ڈیٹا سینٹرز پر پابندیاں سخت کردی ہیں۔

اس کا تجسس بڑھ گیا، کاف مین نے کہا کہ اس نے OpenAI کے Codex اور Anthropic کے Claude Code کے امتزاج کو اس وجہ سے تلاش کرنے کے لیے استعمال کیا کہ آخر کار ایپل کے آپریٹنگ سسٹم کے “آنتوں کی گہرائیوں میں” ذخیرہ شدہ کمپینڈیم کو ٹھوکر لگائی۔ اس نے کہا کہ سرمئی فہرست میں درج الفاظ اور فقروں کی تعداد اور ان کی مختلف ترتیبوں کو شمار کرنے کے مختلف طریقے ہیں، لیکن ایک قدامت پسند اندازے کے مطابق ان کی تعداد تقریباً 100,000 ہوگی، جس میں چینی حروف شامل نہیں ہیں۔

رائٹرز نے ایک آئی فون پر کاف مین کے ذریعے شناخت کیے گئے فقروں کے ایک چھوٹے ذیلی سیٹ کا تجربہ کیا اور پایا کہ ان سب کو سوائپ ٹائپنگ کے ذریعے داخل کرنا مشکل تھا یا خودکار تکمیل کے ذریعے تجویز نہیں کیا گیا تھا۔ مثال کے طور پر “متحدہ آئرلینڈ” یا “تبت کی آزادی” کو سوائپ کرنے کی کوششوں سے اکثر “متحدہ آئس لینڈ” یا “تبت کی آزادی” حاصل ہوتی ہے۔ “سفید آدمی” کو سوائپ کرنے کی کوشش کرنے سے “سفید مطلب” نکلے گا جبکہ “ریڈ مین” یا “بلیو مین” کو بغیر کسی مشکل کے سوائپ ٹائپ کیا جا سکتا ہے۔ “سلیپی جو” سے “نیند کی امید” ملے گی۔ “ڈکٹیٹر ٹرمپ” کو سوائپ ٹائپ کیا جا سکتا ہے، لیکن “ٹرمپ” چھوٹے حروف میں تھا اور فقرہ خود مکمل میں تجویز نہیں کیا گیا تھا – اس کے بجائے کی بورڈ نے “ڈکٹیٹر ٹرمپ” کا مشورہ دیا۔ سوائپ ٹائپ کرنے سے “پڑھیں ہم جنس پرستوں کی سمٹ” نکلے گی “پڑھیں ہم جنس پرستوں کی سمٹ۔” “ریڈ smut” کو بغیر کسی مسئلے کے سوائپ ٹائپ کیا جا سکتا ہے۔

ایجنٹ AI سائبرسیکیوریٹی کمپنی ٹولمو کے ایک انجینئر Matt Suiche نے کہا کہ وہ آزادانہ طور پر اسی گرے لسٹ اور ایپل کے اندرونی ڈیٹا کے خلاف کاف مین کے نتائج کو دوبارہ حاصل کرنے کے قابل ہے۔ انہوں نے کہا کہ انہیں قریب قریب پرفیکٹ میچ ملا ہے۔

Suiche نے کہا کہ ایپل کی فہرست برسوں سے سادہ نظروں میں چھپی ہوئی تھی، جس سے یہ ایک دلچسپ نظر آتا ہے کہ کس طرح “انسانی مواصلات کو پیغام رسانی کے ایپس کے اندر برسوں سے ممکنہ طور پر متاثر اور فلٹر کیا گیا ہے۔”

شفافیت کا مطالبہ

کاف مین iOS کی پیشین گوئی کرنے والے متن کی خصوصیت سے حاصل کرنے میں اکیلا نہیں ہے۔ برسوں کے دوران، سوشل میڈیا کے صارفین نے سوچا ہے کہ وہ کچھ فقرے کیوں نہیں سوائپ کر سکتے ہیں۔ اس ہفتے کے شروع میں، ایک نارویجن سسٹمز ایڈمنسٹریٹر آزادانہ طور پر دریافت کیا گیا ایپل کی گرے لسٹ میں الفاظ کی فہرست، بشمول “القاعدہ،” “آشوٹز” اور “ہوٹرز”، لیکن یہاں پہلی بار حساس فقروں کی ایک وسیع فہرست کی موجودگی کی اطلاع دی گئی ہے۔

ایپل، دیگر ٹیک کمپنیوں کی طرح، پہلے بھی اس وقت مشکلات کا شکار ہو چکی ہے جب پیشین گوئی کرنے والی ٹیکنالوجی صارفین کو شرمناک یا متنازعہ متن تجویز کرتی ہے۔ الفابیٹ کی ملکیت والی گوگل کی خودکار تکمیل کی خصوصیت نے باقاعدگی سے تنقید کی ہے۔ کبھی کبھی قانونی چارہ جوئی بھی – اس کی تجویز کردہ تلاش کی اصطلاحات پر۔ پچھلے سال، ایپل میڈیا کی توجہ مبذول کروائی، جب صارفین نے اطلاع دی کہ ان کے iPhones پر لفظ “نسل پرست” لکھنے سے مختصر طور پر لفظ “ٹرمپ” ان کی سکرینوں پر چمکتا ہے۔ ایپل نے اس وقت کہا تھا کہ مسئلہ ایک غلطی تھی اور اسے ٹھیک کر دیا گیا تھا۔

ڈیوڈ گرین، الیکٹرانک فرنٹیئر فاؤنڈیشن کے سینئر وکیل، ڈیجیٹل شہری آزادیوں کے گروپ، نے کہا کہ جب کہ ان کے ایک حصے کو لفظ کی فہرست “ڈراؤنا” لگی اور وہ ایپل کی ججمنٹ کالز کے بارے میں حیران تھے، لیکن وہ اس بات کی دلیل دیکھ سکتے ہیں کہ یہ ناپسندیدہ یا اشتعال انگیز تجاویز کو روکنے کا ایک مفید طریقہ ہے۔

گرین نے کہا، “لیکن اگر وہ ایسا کرنے جا رہے ہیں، تو یہ وہ چیز ہے جس کے بارے میں صارفین کو واقعی اچھی طرح سے آگاہ ہونا چاہئے اور ان میں اپنی مرضی کے مطابق کرنے کی کچھ صلاحیت ہونی چاہئے۔” “یہ ایسی چیز ہے جو خفیہ نہیں ہونی چاہیے۔”