Google Research يطرح إطارًا جديدًا لخصوصية وأمن الوكلاء الذكيين

أعلنت Google Research تقريرًا بحثيًا جديدًا بعنوان «Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle»، يركز على كيفية جعل الوكلاء الذكيين أكثر أمانًا وموثوقية مع ازدياد قدرتهم على التخطيط وتنفيذ المهام المتعددة الخطوات باستخدام النماذج اللغوية الكبيرة.

ويستند التقرير إلى نظرية «السلامة السياقية» التي ترى أن الخصوصية لا تعني السرية فقط، بل تدفق المعلومات بشكل مناسب وفق القواعد الاجتماعية في كل سياق. وتقول Google إن هذا النهج يمكن أن يمتد إلى «الأمن السياقي» أيضًا، أي تقييم ما إذا كان فعل الوكيل مناسبًا قبل تنفيذه، لا سيما عندما يتعامل مع بيانات شخصية أو ينفذ إجراءات مؤثرة.

ويعرض التقرير ثلاث مشكلات أساسية في الوكلاء: واجهات غير منظمة مثل اللغة الطبيعية والصور، ومسارات تنفيذ احتمالية يصعب تأمينها بالأساليب التقليدية، ثم الاستقلالية وتفويض المهام لوكلاء آخرين بما قد يقلل فعالية الإشراف البشري. كما يقترح طبقة إشراف تضم محرك سياسات سياقيًا يعمل في الوقت الحقيقي لمنع خروج البيانات من بيئة المستخدم قبل التحقق من ملاءمة استخدامها.

كما يدعو إلى نهج متعدد الطبقات يشمل عزلًا على مستوى النظام، واستدلالًا أفضل على مستوى النموذج، وضوابط موجهة للمستخدم، وحوكمة للتعامل بين الوكلاء. ويقترح أيضًا إنشاء بيئات اختبار معيارية مثل «Agent Gym» لمحاكاة التفاعلات المعقدة وقياس الأمان بشكل ديناميكي، في خطوة تهدف إلى وضع أساس مشترك للثقة في أنظمة الذكاء الاصطناعي الوكيلة بين الأوساط الأكاديمية والصناعة.