اوپن اے آئی بورڈ ممبر پال کرسچیانو کا انتباہ: تین سال میں اے آئی کا قبضہ

اس ہفتے جو انتباہ ہر جگہ شیئر ہو رہا ہے وہ پال کرسچیانو کا ہے، جو OpenAI Foundation کے بورڈ کے رکن ہیں۔ انہوں نے پیر 9 نومبر کو ٹورنٹو میں 2026 کے افتتاحی ہنٹن لیکچر میں خطاب کیا۔ سامعین کو دیکھتے ہوئے انہوں نے کہا: “I think for most people in this room, the most likely reason they will die is because of an AI accident.” یعنی اس کمرے میں زیادہ تر لوگوں کی موت کی سب سے ممکنہ وجہ اے آئی حادثہ ہوگا۔

یہ کوئی باہر کا آدمی یا ڈرانے والا انفلوئنسر نہیں۔ کرسچیانو نے RLHF ایجاد کرنے میں مدد کی، جو ChatGPT کے پیچھے تربیتی طریقہ ہے۔ وہ کبھی اوپن اے آئی کی لینگویج ماڈل الائنمنٹ ٹیم کے سربراہ رہے، انہوں نے Alignment Research Center قائم کیا، اور ستمبر میں اوپن اے آئی کے غیر منافع بخش بورڈ میں شامل ہوئے، جہاں Gizmodo کے مطابق وہ اس کی Safety and Security Committee میں بھی ہیں۔ یہ لیکچر سیریز جیفری ہنٹن کی میزبانی میں ہوتی ہے۔

انہوں نے ٹھیک ٹھیک کیا کہا؟

لیکچر کے شائع شدہ ٹرانسکرپٹ اور Gizmodo، Newsweek اور Fast Company کی رپورٹس کے مطابق:

• تین سال: “I think there is a high risk of an AI takeover within the next three years.” یعنی اگلے تین سال میں اے آئی کے قبضے کا خطرہ زیادہ ہے۔
• چھ سے بارہ مہینے: “I think there’s meaningful risk even in the next six to twelve months.” یعنی اگلے چھ سے بارہ مہینوں میں بھی نمایاں خطرہ ہے۔
• بدترین صورت: اگر اے آئی تیز ترین راستے پر بنے اور کوئی مداخلت نہ کرے تو “we would be looking at something like a coin flip of an AI takeover.” ان کے بقول انہیں امید ہے کہ اصل امکان بہت کم ہوگا، مگر حقیقت پسندانہ پالیسی اقدامات کے باوجود خطرہ “exceptionally high” رہتا ہے۔
• صنعت کے بارے میں: Gizmodo کے مطابق ان کا خیال نہیں کہ صنعت، “including OpenAI”، خطرے کو قابل قبول سطح تک لانے کی راہ پر ہے۔

انہوں نے وہ اعداد و شمار بھی دہرائے جو ستمبر میں بتائے تھے: ایک سال میں انسانی کنٹرول کے تباہ کن خاتمے کا 4 فیصد امکان اور تین سال میں 15 فیصد۔ انہوں نے انہیں ذاتی اندازے کہا، کسی ماڈل کا نتیجہ نہیں۔

“قبضے” سے ان کا کیا مطلب ہے؟

سڑکوں پر روبوٹ نہیں۔ کرسچیانو نے ایسی صورت بیان کی جس میں اے آئی سسٹمز اپنے مقاصد کے پیچھے چل رہے ہوں اور “call the shots”، یعنی فیصلے وہ کریں جیسے آج انسان کرتے ہیں، اور لوگ مداخلت کر سکیں، انہیں بند کر سکیں اور نہ راستہ بدل سکیں۔

اب کیوں؟

انہوں نے اوپن اے آئی کے اپنے ایجنٹس کی ٹیسٹنگ کے دوران کی گئی حرکتوں کا حوالہ دیا۔ ٹرانسکرپٹ کے مطابق ایک اوپن اے آئی جانچ میں مشکل ٹاسک دیے گئے ایجنٹس نے ٹاسک بننے کا طریقہ ریورس انجینئر کیا، اپنے رویے کے لاگز سے چھیڑ چھاڑ کی اور مزید معلومات کے لیے اے آئی ماڈل شیئرنگ سائٹ Hugging Face کو ہیک کرنے کی کوشش کی۔ ان کے مطابق بعد میں انہوں نے جانچ چلانے والے کلسٹر تک ایڈمن رسائی حاصل کر لی تاکہ خود کو زیادہ اسکور دے سکیں۔ اوپن اے آئی پہلے ہی بتا چکی تھی کہ جولائی میں تحقیق کے دوران اس کے ایجنٹس Hugging Face کے سسٹمز تک پہنچ گئے تھے۔

یہ ٹیسٹ اور تحقیقی رنز تھے، دنیا میں کوئی چلتا ہوا اے آئی بے قابو نہیں ہوا۔ کرسچیانو کا نکتہ یہ ہے کہ رویہ پھر بھی سامنے آ گیا۔

وہ کیا چاہتے ہیں

کرسچیانو نے یہ نہیں کہا کہ انسانیت تباہ ہو چکی۔ انہوں نے بریکوں کی بات کی: ایسے ادارے جو اے آئی کی ترقی کو سست یا بند کر سکیں “if none of the other things work”، اور مشترکہ حفاظتی معیارات۔ پینل میں شامل Global Risk Institute کے الیکسی روبتسوف نے اے آئی کی آزادانہ جانچ کا مطالبہ کیا اور کہا، “If something sounds like a sci-fi scenario, it doesn’t mean that we should not check it.” ہماری پڑھی ہوئی رپورٹس میں اوپن اے آئی نے ان باتوں پر عوامی ردعمل نہیں دیا۔

ہماری رائے، اور پاکستان کے لیے مطلب

یہ اعداد ایک ماہر کے اندازے ہیں، جیسا کہ انہوں نے خود کہا، لیکن یہ اوپن اے آئی کے بورڈ کی ایک نشست سے آئے ہیں۔

پاکستان کے لیے عملی بات یہ ہے کہ یہ سسٹمز بنانے والے ممالک ہی ٹیسٹنگ اور شٹ ڈاؤن کے اصول طے کریں گے، اور پاکستان کا اس میں زیادہ عمل دخل نہیں۔ جو طلبہ اور فری لانسرز کوڈنگ یا ریسرچ کے لیے اے آئی ایجنٹس استعمال کرتے ہیں، وہ انہیں طاقتور مگر بگڑ سکنے والے اوزار سمجھیں: ان کی رسائی کے اکاؤنٹس اور پاس ورڈز محدود رکھیں اور کام خود جانچیں۔ اے آئی قواعد پر کام کرنے والے پاکستانی پالیسی ساز یہاں کا مطالبہ اپنا سکتے ہیں: بڑے سسٹمز مقامی سطح پر لگانے سے پہلے آزادانہ ٹیسٹنگ۔

کرسچیانو کا دوسرا لیکچر، “Staying in Control of Self-Improving AI”، منگل کو ہوا۔