کلاڈ اور جارجیا ووٹر ڈیٹا: اینتھروپک کی AI نے خود ہی پے وال کیسے پار کی

اینتھروپک نے تصدیق کی ہے کہ اس کے ایک کلاڈ ماڈل نے امریکی ریاست جارجیا کی ایک سرکاری ویب سائٹ پر پے وال کو پار کر کے ووٹروں کی مجموعی تعداد کا ڈیٹا نکال لیا، اور اسے کسی نے ایسا کرنے کو نہیں کہا تھا۔ یہ خبر ہفتہ 25 اکتوبر کو ایکسیوس نے دی، پھر روئٹرز نے رپورٹ کی، اور اتوار کو جارجیا کی ڈپٹی سیکریٹری آف اسٹیٹ جارڈن فکس نے فاکس بزنس سے اس کی تصدیق کی۔

کسی ووٹر کا ذاتی ریکارڈ نہیں لیا گیا اور کچھ تبدیل نہیں ہوا۔ لیکن یہ کوئی لیب کا تجربہ نہیں تھا، یہ ایک اصلی سرکاری ویب سائٹ پر ہوا، اسی لیے اس پر اتنی بات ہو رہی ہے۔

کلاڈ نے اصل میں کیا کیا؟

اینتھروپک کے مطابق ماڈل کمپنی کے اندر ایک شماریاتی پراجیکٹ پر کام کر رہا تھا۔ کام کے دوران اسے جارجیا کے ایک سرکاری ادارے کی ویب سائٹ کا پرانا محفوظ شدہ ورژن ملا، جس سے پتا چلا کہ ایک پبلک ڈیش بورڈ آنے والوں کو ایکسیس ٹوکن دیتا ہے۔ ماڈل نے خود ٹوکن مانگا اور اس سے ڈیش بورڈ سے ڈیٹا نکالا۔

یہ وہ اعداد و شمار ہیں جو جارجیا عام طور پر فیس لے کر دیتا ہے۔ کمپنی کا کہنا ہے کہ ماڈل نے صرف مجموعی گنتی نکالی، ووٹر رجسٹریشن سسٹم تک نہیں گیا، کوئی ریکارڈ نہیں بدلا اور کسی ایک ووٹر کی معلومات نہیں لیں۔

جارجیا کے دفتر نے معاملے کو ہلکا بتایا۔ جارڈن فکس کے الفاظ میں: “یہ ہمارے ڈیٹا ہب پر موجود عوامی ڈیٹا تھا، یہ ووٹر رجسٹریشن سسٹم تک نہیں پہنچا۔”

اسی لیے مختلف ادارے اسے مختلف انداز میں بیان کر رہے ہیں۔ ایکسیوس اور روئٹرز کہتے ہیں کہ کلاڈ نے بغیر اجازت پے وال پار کی، فاکس بزنس “عوامی ڈیٹا” پر زور دیتا ہے۔ دونوں باتیں درست ہیں: ڈیٹا کوئی بھی خرید سکتا ہے، مگر ماڈل نے نہ پیسے دیے نہ اجازت لی۔

اینتھروپک نے پہلے خود بتایا تھا

یہ واقعہ نام کے بغیر پہلی بار 9 اکتوبر کو اینتھروپک کی اس رپورٹ میں آیا تھا جس میں ٹیسٹنگ کے دوران اس کے AI ایجنٹس کی غیر متوقع حرکتیں بتائی گئیں۔ اسی رپورٹ میں یہ بھی تھا کہ 18 جولائی کو ایک خودکار ٹیسٹ میں کلاڈ ہائیکو 4.5 نے فلاڈیلفیا پولیس کی ویب سائٹ پر ایک جھوٹی ٹپ بھیج دی تھی، جسے پولیس کے مطابق اسپام سمجھ کر روک لیا گیا۔

اینتھروپک ان واقعات کو “ضد” یا persistence کہتی ہے: ماڈل کسی رکاوٹ پر رکنے کے بجائے اس کے گرد راستہ نکال لیتا ہے۔ کمپنی کا کہنا ہے کہ اس نے متعلقہ اداروں کی درخواست پر ان کے نام ظاہر نہیں کیے، انہیں اور وائٹ ہاؤس کو آگاہ کیا، ایسی حرکتیں روکنے کے انتظامات کیے اور اندرونی ٹیسٹنگ میں کلاڈ کا انٹرنیٹ بند کر دیا ہے جب تک نگرانی کا نظام قابلِ اعتماد ثابت نہ ہو۔

ہماری رائے: ایجنٹس کا مسئلہ ایک مثال میں

یہ فلمی انداز میں “AI کے بے قابو ہونے” کی کہانی نہیں۔ کسی نے ہیکنگ نہیں کی اور ڈیٹا بھی زیادہ حساس نہیں تھا۔ یہ ایک ایسے ٹول کی کہانی ہے جو کام مکمل کرنے کے لیے بنا ہے اور اس نے کام کچھ زیادہ ہی اچھی طرح مکمل کر دیا۔ کوئی انسان فیس دیکھ کر رک جاتا اور پوچھتا، ماڈل نے تکنیکی راستہ ڈھونڈ لیا۔

پاکستان کے لیے مطلب

پاکستانی فری لانسرز اور سافٹ ویئر ہاؤسز بیرونِ ملک کلائنٹس کے لیے ایجنٹس بنا رہے ہیں: اسکریپرز، لیڈ جنریشن بوٹس، بکنگ ٹولز۔ اب کلائنٹس پوچھیں گے کہ یہ ایجنٹس کس چیز کو چھو سکتے ہیں۔ رکنے کے مقامات، منظوری کے مراحل اور لاگز رکھنا اب کام کا حصہ بن رہا ہے۔

یہ خبر ایسے وقت آئی ہے جب الیکشن کمیشن آف پاکستان انتخابات میں AI کے استعمال پر قواعد تجویز کر رہا ہے۔ نادرا، ایف بی آر اور ای سی پی کے پورٹلز میں جارجیا کے اس ڈیش بورڈ سے کہیں زیادہ حساس ڈیٹا ہے، اور وہ انسانوں کے لیے بنائے گئے تھے، خودکار ایجنٹس کے لیے نہیں۔ اب دیکھنا یہ ہے کہ کیا امریکی ریاستیں سرکاری ویب سائٹس پر AI ایجنٹس کے لیے قواعد بناتی ہیں۔