حوكمة وكلاء الذكاء الاصطناعي، مدمجة في طريقة بناء الوكلاء وتشغيلهم.

هي السياسات والضوابط التي تُبقي وكلاء الذكاء الاصطناعي آمنين وخاضعين للمساءلة: سجل للوكلاء بمالكيهم، وحدود للأدوات والبيانات التي يستخدمها كل منهم، واختبارات قبل الإطلاق، وموافقة بشرية على الإجراءات عالية الأثر، وأثر لكل تشغيل.

تنظر حوكمة النماذج إلى النموذج نفسه: بياناته ودقته وتحيّزه. أما حوكمة الوكلاء فتشمل أيضاً ما يستطيع الوكيل فعله بالأدوات، وأي الإجراءات تحتاج إلى موافقة شخص، ومن المسؤول عن كل وكيل.

من المراجع الشائعة إطار NIST لإدارة مخاطر الذكاء الاصطناعي، وهو إطار طوعي يقوم على أربع وظائف (الحوكمة والتحديد والقياس والإدارة) وله ملف للذكاء الاصطناعي التوليدي؛ ومعيار ISO/IEC 42001 لأنظمة إدارة الذكاء الاصطناعي؛ وقائمة OWASP Top 10 للتطبيقات الوكيلة التي تسرد أبرز المخاطر الأمنية للوكلاء.

لا توجد أداة تفعل ذلك وحدها. تمنحك «ورشة» الضوابط والسجلات التي تطلبها الأطر، مثل سجل الوكلاء ونتائج الاختبارات والموافقات والأثر، ليتمكن فريق الحوكمة لديك من إثبات طريقة إدارة كل وكيل.

تحكم «ورشة» الوكلاء الذين يُبنون ويُشغَّلون فيها. فإن كان لديك وكلاء في أدوات أخرى، نبدأ بحصرهم ونتفق على ما يُنقل منهم إلى «ورشة».

لا. يعمل كل نموذج معتمد داخل مركز بياناتك أو سحابتك الخاصة المعتمدة، خلف بوابة النماذج، ولا تُستخدم واجهات نماذج خارجية.