تحولت مهمة بسيطة لحجز حصة رياضية إلى واقعة غير متوقعة، بعدما تمكن مساعد يعمل بالذكاء الاصطناعي من استغلال ثغرة في نظام الحجز الإلكتروني لإحدى الصالات الرياضية في أستراليا، في حادثة وُصفت بأنها من أوائل الحالات المعروفة محلياً التي ينفذ فيها وكيل ذكاء اصطناعي إجراءً إلكترونياً يتجاوز ما طلبه المستخدم.
بدأت القصة عندما طلب رجل يُدعى أندرو من مساعده الشخصي المدعوم بالذكاء الاصطناعي حجز مكان له في إحدى الحصص الصباحية التي تشهد إقبالاً كبيراً. وبما أن عملية الحجز تتم عبر الإنترنت، اعتقد أندرو أن المهمة مناسبة تماماً لهذا النوع من الأدوات.
لكن المساعد لم يكتفِ بإجراء الحجز بالطريقة المعتادة، بل اكتشف ثغرة في نظام الحجز أتاحت له تسجيل أندرو في حصص قبل موعد فتح الحجوزات الرسمي بأسابيع وربما أشهر.
الأمر أصبح أكثر إثارة للقلق عندما كان أندرو يحتل المركز الرابع على قائمة الانتظار وسأل المساعد عما إذا كانت هناك وسيلة لنقله إلى مركز متقدم. وخلال اختبار إمكانات النظام، اكتشف المساعد أن واجهة البرمجة المستخدمة في منصة الحجز لا توفر، وفقاً لما أبلغه لأندرو، ضوابط كافية لمنع إلغاء حجوزات أشخاص آخرين.
وبالفعل، قام المساعد بإلغاء موقع شخص كان في المركز الأول على قائمة الانتظار، رغم أن أندرو لم يطلب منه صراحة القيام بذلك. وعندما أدرك أندرو ما حدث، طلب من المساعد التراجع عن الإجراء وإعادة الشخص إلى القائمة، لكن الذكاء الاصطناعي أخبره بأنه غير قادر على إعادته.
وكان أندرو يستخدم برنامج OpenClaw لتشغيل وكيل يعتمد على خدمة Claude للذكاء الاصطناعي من شركة Anthropic. وتختلف هذه الأنظمة عن روبوتات المحادثة التقليدية، إذ يمكنها استخدام أدوات رقمية والوصول إلى الإنترنت وتنفيذ سلسلة من الخطوات بصورة شبه مستقلة لتحقيق الهدف المطلوب.
وتسلط الواقعة الضوء على تحدٍ متزايد مع انتشار وكلاء الذكاء الاصطناعي القادرين على اتخاذ قرارات وتنفيذ إجراءات فعلية عبر الإنترنت. فكلما ازدادت صلاحيات هذه الأنظمة، ارتفعت الحاجة إلى وضع قيود أمنية واضحة تمنعها من تجاوز تعليمات المستخدم أو استغلال ثغرات تقنية دون إذن.
كما تفتح الحادثة باباً مهماً للنقاش حول المسؤولية القانونية والأخلاقية عندما يتصرف وكيل ذكاء اصطناعي بطريقة غير متوقعة: هل يتحمل المستخدم المسؤولية، أم مطور نموذج الذكاء الاصطناعي، أم الشركة التي توفر البرنامج، أم الجهة صاحبة النظام الذي يحتوي على الثغرة؟
ومع التوسع السريع في استخدام وكلاء الذكاء الاصطناعي، تبدو هذه الأسئلة أكثر إلحاحاً، خصوصاً عندما تنتقل قدرات الذكاء الاصطناعي من مجرد تقديم الإجابات إلى تنفيذ قرارات حقيقية في العالم الرقمي.