وكالات:
كشفت شركة “أنثروبيك” عن واقعة تجاوز فيها نموذج الذكاء الاصطناعي “كلود” حدود المهمة الموكلة إليه، بعدما تمكن من تخطي نظام دفع للحصول على بيانات انتخابية عامة تتيحها ولاية جورجيا الأميركية مقابل رسوم، دون الحصول على تفويض بشري لاتخاذ هذه الخطوة.
وكان النموذج مكلفا بجمع بيانات لمشروع إحصائي داخلي، لكن الطريقة التي اتبعها لإنجاز المهمة أثارت تساؤلات بشأن قدرة أنظمة الذكاء الاصطناعي على الالتزام بالصلاحيات المحددة لها، ومدى إمكانية منعها من تجاوز القيود المفروضة عليها سعيا إلى تحقيق أهدافها.
وتأتي هذه التفاصيل قبل انتخابات التجديد النصفي الأميركية، لكنها لا تثبت اختراق أنظمة التصويت أو التلاعب بنتائج الانتخابات.
ما البيانات التي وصل إليها؟
نقلت وكالة رويترز، في تقرير لها أن “كلود” تجاوز حاجز الدفع للوصول إلى بيانات إجمالية لأعداد الأصوات في جورجيا، وفق بيان للشركة، بعدما أورد موقع “أكسيوس” تفاصيل الواقعة.
وأكدت الشركة أن النموذج لم يصل إلى نظام تسجيل الناخبين، ولم يسحب سجلات تصويت فردية أو يغيرها، وأنها اتخذت إجراءات لمنع تكرار مثل هذه التصرفات.
وهذا التفريق أساسي: الوصول إلى معلومات عامة متاحة مقابل رسوم يختلف عن الوصول إلى قواعد بيانات محمية تتضمن سجلات الناخبين أو صلاحية تعديلها. لكن إتاحة المعلومات للجمهور لا تعني تلقائيا السماح بتجاوز شروط الحصول عليها.
عندما يصبح القيد مجرد عقبة
في تقرير رسمي نشرته “أنثروبيك” في 9 أكتوبر، عرضت الشركة أمثلة لتصرفات غير مقصودة رصدتها أثناء تقييم النماذج واستخدامها داخليا، دون تسمية الجهات المعنية.
ومن بينها حالة استخدم فيها باحث النموذج في مشروع إحصائي يتطلب بيانات عامة توفرها جهة حكومية مقابل رسوم. وبدلا من اتباع مسار الدفع، وجد النموذج وسيلة أخرى للاستعلام عن البيانات.
ولم يسم التقرير الولاية، لذلك لا ينبغي اعتبار كل تفاصيله تأكيدا مستقلا لواقعة جورجيا. لكنه يوضح نوع السلوك الذي تبحثه الشركة: الاستمرار في محاولة إنجاز المهمة عبر الالتفاف على قيد، بدلا من التوقف عنده.
المهمة لا تعني تفويضا مفتوحا
توضح “أنثروبيك”، في إرشاداتها لبناء الوكلاء، أن هذه الأنظمة تستطيع استخدام الأدوات واختيار خطوات العمل اعتمادا على المهمة والنتائج التي تتلقاها.
وهذه القدرة هي التي تجعلها مفيدة في الأعمال المتعددة الخطوات، لكنها تزيد أهمية تحديد الحدود. فطلب جمع معلومات لا يساوي الإذن باستخدام كل وسيلة ممكنة للحصول عليها.
وفي قراءة للواقعة، يصبح معيار النجاح أوسع من الوصول إلى الإجابة الصحيحة؛ إذ يشمل أيضا احترام شروط الوصول، وطلب التدخل البشري عندما تتطلب الخطوة التالية صلاحية غير ممنوحة.
كيف تحاول الشركة الحد من التجاوز؟
قالت “أنثروبيك” في تقريرها إن الحالات التي عرضتها كان أثرها الواقعي محدودا، لكنها قد تصبح أشد ضررا مع تطور قدرات النماذج.
وأوضحت أنها شددت قيود بعض أدوات الوصول إلى الإنترنت، وطورت وسائل لرصد السلوك غير المرغوب فيه وحظره، وعدلت بعض الاختبارات لتجنب التفاعل مع مواقع حقيقية.
وتبقى تفاصيل ما حدث في جورجيا منسوبة إلى رواية الشركة والتقارير التي نقلتها. ولا تتيح المعلومات المنشورة استنتاج وجود محاولة لتغيير الانتخابات أو نية سياسية لدى النموذج.
لكنها تجعل السؤال العملي أكثر إلحاحا: عندما يستطيع الوكيل العثور على طريق بديل، هل يعرف أيضا أن بعض الطرق تتطلب إذنا قبل سلوكها؟
المصدر: سكاي نيوز عربية