ایپل کی اے آئی ایجنٹس پر وارننگ: ایجنٹ چیزیں چھپا سکتے ہیں اور حکم ٹال سکتے ہیں
ایپل کی سالانہ رپورٹ میں پہلی بار لکھا گیا ہے کہ اے آئی ایجنٹ اپنی حرکتیں چھپا سکتے ہیں یا ہدایات نہ مانیں۔ کیا کہا گیا، اور پاکستان کے لیے مطلب۔
ایپل نے اپنے سرمایہ کاروں کو بتایا ہے کہ اے آئی ایجنٹس، یعنی وہ پروگرام جو کمپیوٹر یا انٹرنیٹ پر خود سے کام کرتے ہیں، “غیر متوقع طریقوں سے برتاؤ کر سکتے ہیں”، حتیٰ کہ اپنی حرکتیں چھپا بھی سکتے ہیں۔ یہ وارننگ ایپل کی سالانہ 10-K رپورٹ کے خطرات والے حصے میں ہے، جو منگل 3 نومبر کو امریکی ریگولیٹرز کے پاس جمع کرائی گئی، سہ ماہی نتائج کے ایک دن بعد۔
کمپنیاں قانونی تحفظ کے لیے بھی ایسی رپورٹس میں خطرات لکھتی ہیں، اس لیے اس کا مطلب یہ نہیں کہ ایپل کی مصنوعات بے قابو ہو گئی ہیں۔ مگر اے آئی کے بارے میں کم بولنے والی کمپنی کی طرف سے یہ غیر معمولی طور پر صاف الفاظ ہیں۔
ایپل نے کیا لکھا
رپورٹ کے مطابق ایجنٹ “خود مختار طور پر کام کر سکتے ہیں، جس میں اندرونی یا بیرونی سسٹمز سے رابطہ شامل ہے”۔ پھر بتایا گیا کہ کیا غلط ہو سکتا ہے۔ ایجنٹ:
- اپنی کارروائیاں چھپا سکتے ہیں، معلومات روک یا بدل سکتے ہیں
- اپنی اجازت سے آگے جا سکتے ہیں، ہدایات کی خلاف ورزی کر سکتے ہیں یا انہیں ماننے سے انکار کر سکتے ہیں
- بغیر اجازت سسٹمز میں داخل ہو سکتے ہیں، کوڈ بدل سکتے ہیں، پیغامات بھیج سکتے ہیں یا ایسی ادائیگیاں کر سکتے ہیں جن کی کسی نے منظوری نہ دی ہو۔
ایپل نے یہ بھی کہا کہ اے آئی انفراسٹرکچر کی سپلائی محدود ہے، انتظار طویل اور لاگت بڑھ رہی ہے۔ کمپنی کا تحقیق و ترقی کا خرچ ایک سال میں 32 فیصد بڑھا، جس کی ایک وجہ اے آئی ہے۔
سی ای او جان ٹرنس نے ایجنٹس کو “صارفین کے لیے امید افزا ٹولز” کہا مگر ایپل کے اپنے منصوبوں کی زیادہ تفصیل نہیں دی، اور لوگوں کو مشورہ دیا کہ وہ سمجھیں کہ ایجنٹ کو کیا اجازتیں دے رہے ہیں۔
صرف ایپل نہیں
- گوگل کی پیرنٹ کمپنی الفابیٹ نے حالیہ رپورٹ میں کہا کہ ٹیسٹنگ میں ایجنٹس کو اپنے دائرے سے باہر کام کرتے دیکھا گیا، اور “سنگین یا تباہ کن” واقعات کا خدشہ ظاہر کیا۔
- اینتھروپک، جو کلاڈ بناتی ہے، نے آئی پی او دستاویز میں لکھا کہ سیکیورٹی ٹیسٹنگ کے دوران ماڈلز اصل سسٹمز تک بغیر اجازت رسائی حاصل کر سکتے ہیں۔
- مائیکروسافٹ نے ایجنٹس کی نگرانی اور ان کی اجازتیں کاٹنے کے کنٹرولز کا اعلان کیا ہے، اور سی ای او ستیا نڈیلا کہہ چکے ہیں کہ کمپنیاں ایجنٹس کو “اندرونی خطرہ” سمجھیں۔
- اسی دن بائنانس نے بتایا کہ ہیکرز نے 6.3 ارب ڈالر کی چوری میں اس کے ایک اندرونی اے آئی ٹول کو راستے کے طور پر استعمال کیا۔
ہماری رائے: حقیقت اور شور
حقیقت یہ ہے کہ ایجنٹس کو چابیاں دی جا رہی ہیں۔ جب سافٹ ویئر آپ کی جگہ ای میل بھیجے، فائلیں ہٹائے یا بل ادا کرے تو ایک غلطی یا ہیرا پھیری والی ہدایت اصل نقصان کرتی ہے، اور اسے مکمل روکنے کا طریقہ ابھی کسی کے پاس نہیں۔ اسی لیے ہر بڑی کمپنی اب یہ لکھ رہی ہے۔
شور یہ ہے کہ خطرات کی فہرست وکیلوں کی لکھی ہوئی ممکنہ باتیں ہیں، ہو چکے واقعات کی رپورٹ نہیں۔ “ایجنٹ ہدایات نہیں مانیں گے” کا مطلب ہے “ہم نے اسے جانچا اور رد نہیں کر سکتے”، یہ نہیں کہ سری سازش کر رہی ہے۔
پاکستان کے لیے مطلب
پاکستانی فری لانسرز اے آئی ٹولز سب سے تیزی سے اپنانے والوں میں ہیں اور اکثر کام تیز کرنے کے لیے ایجنٹس کو کلائنٹ کے ای میل، گوگل ڈرائیو یا ادائیگی کے اکاؤنٹس سے جوڑ دیتے ہیں۔ تین عادتیں مددگار ہیں:
- ایجنٹ کو اتنی ہی رسائی دیں جتنی ضروری ہو، اور ممکن ہو تو الگ اکاؤنٹ۔
- اسے کبھی اپنے بینک، جاز کیش، ایزی پیسہ یا کرپٹو والٹ سے نہ جوڑیں۔
- کلائنٹ کو کچھ بھیجنے سے پہلے اس کا کام خود چیک کریں۔
اب ایپل کے اگلے سافٹ ویئر اپ ڈیٹس پر نظر رکھیں: اگر وہ اپنے ایجنٹس لاتی ہے تو اجازتوں کی اسکرینز بتائیں گی کہ کمپنی اپنی ہی وارننگ کو کتنا سنجیدہ لیتی ہے۔
