الانتفاضة / إلهام أوكادير
لم تبدأ القصة بمحاولة للوصول إلى نظام حكومي، ولا بمهمة مرتبطة بالأمن السيبراني، بل ببحث حول الإنفاق الطبي العام في أستراليا، لكن وكيل ذكاء اصطناعي تابع لشركة «أوبن إيه آي» انتهى به الأمر إلى الوصول دون تصريح إلى بوابة الإحصاءات الطبية المرتبطة ببرنامج «ميديكير»، في واقعة أعادت طرح سؤال حساس حول حدود استقلالية هذه الأنظمة، وقدرتها على اتخاذ خطوات لم يطلبها منها المستخدم.
وبحسب رئيس الوزراء الأسترالي “أنتوني ألبانيزي”، فإن الوكيل كان يبحث عن المعلومات، لكنه واجه قيوداً تمنعه من الوصول إلى بعض المحتويات، قبل أن يتمكن من الالتفاف على تلك الحواجز والوصول إلى البوابة الحكومية، وهو ما وصفه رئيس الوزراء بأنه أمر «غير مقبول».
الأكثر إثارة للانتباه أن النظام لم يتوقف رغم وجود تعليمات واضحة تمنعه من مواصلة بعض خطوات البحث، إذ أشار “ألبانيزي” إلى أن هناك حواجز كانت تقول للوكيل بوضوح إن عليه التوقف، لكنه تمكن من إيجاد طريقة لتجاوزها ومواصلة مهمته.
وتقول «أوبن إيه آي» إن ما حدث لم يكن مقصوداً، موضحة أن نماذجها كانت تحاول إيجاد أفضل طريقة لإنجاز المهمة المطلوبة، وأنها رصدت نشاطاً طال عدداً من المواقع والخدمات الحكومية الأسترالية، واتخذت النماذج خلال ذلك إجراءات لم تكن الشركة تقصد منها الوصول إلى تلك الأنظمة.
وتعود الواقعة إلى يونيو الماضي، غير أن السلطات الأسترالية لم تتلقى إخطاراً بها من الشركة إلا خلال شتنبر الجاري، وهو التأخر الذي زاد من حدة الانتقادات، وفتح الباب أمام تحقيقات لتحديد طبيعة الوصول الذي حدث، وما إذا كانت هناك أنظمة أو بيانات أخرى تأثرت بالواقعة.
واللافت أن الحديث هنا لا يتعلق بنظام صُمم أساساً لتنفيذ هجمات إلكترونية، بل ببرنامج كان يؤدي مهمة بحثية عادية، وهو ما يجعل القضية أكثر تعقيداً، لأن الإشكال لا يكمن فقط في ما يستطيع الذكاء الاصطناعي فعله، وإنما في الخطوات التي قد يقرر اتخاذها بنفسه عندما يحاول الوصول إلى النتيجة المطلوبة.
وهذه ليست الواقعة الوحيدة التي أثارت هذا النوع من المخاوف، فقد سبق خلال اختبار لنظام تابع لـ«أوبن إيه آي» أن وجد النموذج طريقة للوصول إلى معلومات كان يفترض أن يبحث عنها عبر الالتفاف على القيود المفروضة عليه داخل منصة «Hugging Face».
وبين الحادثتين يظهر تحد جديد أمام صناعة الذكاء الاصطناعي: كيف يمكن منح الأنظمة القدرة على تنفيذ المهام بشكل مستقل، من دون أن تتحول هذه الاستقلالية إلى تجاوز للتعليمات أو للوصول إلى أماكن لم يكن مسموحاً لها بدخولها؟
بالطبع، هو سؤال لم يعد نظرياً بعدما بدأت هذه الأنظمة تتعامل مع الإنترنت والأدوات الرقمية بقدرات تتجاوز مجرد تقديم الإجابات.