By submitting, you consent to our use of your data. Privacy Policy.
Category
وكلاء الذكاء الاصطناعي
Share the article
قبل عقد من الزمن، كانت تكنولوجيا المعلومات الظلية (shadow IT) هي المشكلة التي تؤرق الرؤساء التنفيذيين للتكنولوجيا (CIOs). فقد كان الموظفون يطلقون أدوات SaaS، ويشاركون الملفات عبر منصات غير مصرح بها، ويديرون مهام عمل بأكملها خارج نطاق رؤية تكنولوجيا المعلومات. وقد استغرق الأمر سنوات ومليارات الدولارات من الإنفاق على الحوكمة للسيطرة على هذه المشكلة.
الآن يظهر النمط نفسه، ولكن بشكل أسرع، وأصعب في الكشف، وأكثر خطورة بكثير. إن انتشار وكلاء الذكاء الاصطناعي، حيث تنشر الفرق عبر المؤسسة وكلاء مستقلين دون إشراف مركزي، أصبح يمثل التحدي الحوكمي الأبرز لعام 2026.
إن الحجم صادم بالفعل. ووفقاً لـ تقرير Gravitee لحالة أمن وكلاء الذكاء الاصطناعي لعام 2026، فإن أكثر من 3 ملايين وكيل ذكاء اصطناعي يعملون الآن داخل الشركات. ويتم رصد أو تأمين 47.1٪ منهم فقط بشكل نشط. وهذا يترك ما يقدر بنحو 1.5 مليون وكيل يعملون دون إشراف، ويصلون إلى بيانات حساسة، ويتخذون قرارات، ويتصلون بأنظمة بالغة الأهمية دون وجود سجل تدقيق.
هذا ليس خطراً افتراضياً. إنه يحدث الآن بالفعل.
كيف يحدث انتشار الوكلاء
النمط متوقع؛ يقوم فريق التسويق ببناء وكيل ذكاء اصطناعي لإنشاء المحتوى. وينشر فريق المبيعات وكيلًا لتقييم العملاء المحتملين. ويقوم قسم المالية بإعداد معالجة مؤتمتة للفواتير. وينشئ قسم الموارد البشرية وكيلاً لفرز المتقدمين. يحل كل فريق مشكلته الخاصة، وتعمل كل أداة بشكل جيد بما يكفي في معزل عن الأخرى.
ولكن لا أحد يتتبع البيانات التي يصل إليها هؤلاء الوكلاء، ولا أحد يملك خريطة للأنظمة التي يتصلون بها. ولا أحد يدقق في مخرجاتهم للتأكد من دقتها أو خلوها من الانحياز أو انتهاكات الامتثال. ولا أحد يعرف عدد الوكلاء الذين يعملون بالفعل عبر المؤسسة.
أكد تقرير Cyber Pulse من Microsoft أن 80٪ من شركات Fortune 500 تنشر الآن وكلاء ذكاء اصطناعي نشطين، وقد تم بناء العديد منها باستخدام أدوات منخفضة الأكواد (low-code) وبدون أكواد (no-code) مما يسهل بشكل كبير على أي قسم إطلاق وكيل دون تدخل من إدارة تكنولوجيا المعلومات. وفي التقرير نفسه، اعترف 29٪ من الموظفين باستخدام وكلاء ذكاء اصطناعي غير مصرح بهم في العمل.
وإليك ما يجعل هذا الأمر يختلف جوهرياً عن تكنولوجيا المعلومات الظلية التقليدية: أدوات SaaS تخزن البيانات وتعرضها، بينما وكلاء الذكاء الاصطناعي يتخذون إجراءات بناءً عليها. إن تسريب جدول بيانات بواسطة أداة SaaS غير مصرح بها هو أمر سيئ، ولكن وكيل ذكاء اصطناعي غير مصرح به يتخذ قرارات بناءً على بيانات العملاء الحساسة، أو يرسل اتصالات، أو يعدل السجلات هو أمر أسوأ بمراحل عديدة.
الأرقام الكامنة وراء المخاطر
إن الفجوة بين تبني التكنولوجيا وإرساء الحوكمة هي المكان الذي تتركز فيه المخاطر.
وجدت Microsoft أن 6% فقط من المؤسسات لديها ما تصنفه كاستراتيجيات أمنية "متقدمة" للذكاء الاصطناعي. بينما الـ 94% المتبقية تقوم بتشغيل وكلاء بأطر حوكمة أساسية أو دون حوكمة على الإطلاق. ومن بين المؤسسات التي لديها عمليات نشر نشطة لوكلاء الذكاء الاصطناعي، أبلغت 88% عن حوادث أمنية مؤكدة أو مشتبه بها. وفي قطاع الرعاية الصحية، يرتفع هذا الرقم إلى 92.7%.
إن التعرض المالي حقيقي؛ حيث تبلغ تكلفة الاختراقات المرتبطة بالذكاء الاصطناعي الظلي حالياً 4.63 مليون دولار في المتوسط، وتمثل 20% من جميع حوادث خرق البيانات. وتسجل الشركات في المتوسط 223 حادثة ذكاء اصطناعي ظلي شهرياً، وهو رقم تضاعف على أساس سنوي. بينما تبلغ الشركات في الربع الأعلى كفاءة عن أكثر من 2100 حادثة شهرياً.
والأمر يزداد سوءاً: لا تزال 45.6% من الفرق تعتمد على مفاتيح API مشتركة للمصادقة بين الوكلاء وبعضهم. وهذا يعني أن مفتاحاً واحداً مخترقاً يمكن أن يتيح الوصول إلى أنظمة وكلاء متعددة في وقت واحد. وفقط 14.4% من المؤسسات لديها موافقة كاملة من إدارة تكنولوجيا المعلومات والأمن على أسطول وكلائها بالكامل.
وقد وجد استطلاع حديث أجراه Dataiku/Harris Poll وشمل 600 رئيس تنفيذي للتكنولوجيا أن 87% منهم يقولون إن وكلاء الذكاء الاصطناعي مدمجون الآن في الأنظمة المهمة، ولكن 25% فقط لديهم رؤية كاملة لجميع الوكلاء قيد التشغيل. هذه الفجوة والمسافة الفاصلة بين ما يتم تشغيله وما يتم إخضاعه للحوكمة هي المكان الذي ستنشأ منه الموجة القادمة من الحوادث الأمنية للمؤسسات.
لماذا تنهار حوكمة تكنولوجيا المعلومات التقليدية
تم بناء حوكمة تكنولوجيا المعلومات في المؤسسات لثلاثة أشياء: التحكم فيمن يصل إلى أي بيانات، وإدارة البرامج التي تعمل على البنية التحتية للشركة، وتتبع كيفية تدفق المعلومات بين الأنظمة. ويكسر وكلاء الذكاء الاصطناعي هذه الافتراضات الثلاثة بالكامل.
التحكم في الوصول ينهار. التطبيق التقليدي يصل إلى البيانات التي صُمم للوصول إليها. أما وكيل الذكاء الاصطناعي الذي يملك صلاحية الوصول إلى قاعدة معرفة الشركة ونظام البريد الإلكتروني ونظام إدارة علاقات العملاء (CRM) فيمكنه أن يقرر بشكل مستقل سحب معلومات من أي من تلك المصادر لإكمال مهمة ما. وبالتالي فإن نطاق الوصول الفعلي للوكيل إلى البيانات أوسع مما حددته إدارة تكنولوجيا المعلومات.
تتلاشى حدود البنية التحتية. قد يستدعي وكيل الذكاء الاصطناعي واجهات برمجة تطبيقات خارجية، ويعالج البيانات من خلال نماذج جهات خارجية، ويخزن النتائج المؤقتة في مخابئ تخزين مؤقت لا تظهر في جرد بيانات الشركة. إن البصمة التشغيلية للوكيل تمتد إلى ما وراء البنية التحتية التي تديرها تكنولوجيا المعلومات.
تصبح تدفقات المعلومات غير متوقعة. تفترض حوكمة البيانات التقليدية تدفقات بيانات متوقعة ومصممة مسبقاً. لكن وكلاء الذكاء الاصطناعي ينشئون تدفقات ناشئة وتلقائية. قد يسحب وكيل المالية بيانات الموارد البشرية لوضع سياق لقرار الميزانية. وقد يستخدم وكيل المبيعات بيانات تذاكر الدعم لإثراء تواصله مع العملاء المحتملين. تحدث تدفقات البيانات هذه عابرة للوظائف دون أن يصممها أو يوافق عليها أحد.
وصف تحليل حديث لموقع Security Boulevard هذا الأمر بأنه "التقاء تشتت الصلاحيات مع انحراف الحوكمة". لقد تراكمت الصلاحيات عبر بيئات المؤسسات دون مراجعة، ويعمل وكلاء الذكاء الاصطناعي الآن ضمن هياكل الصلاحيات غير المدققة تلك. هذا المزيج يخلق نقاطاً عمياء لا تستطيع أدوات الحوكمة التقليدية كشفها ببساطة.
ما تتطلبه حوكمة وكلاء الذكاء الاصطناعي فعلياً
المؤسسات التي تتعامل مع هذا الأمر بشكل صحيح تعتبر حوكمة الوكلاء تخصصاً قائماً بذاته، متميزاً عن كل من حوكمة تكنولوجيا المعلومات التقليدية وأطر أخلاقيات الذكاء الاصطناعي الأساسية. واقترح تقرير Cyber Pulse من Microsoft إطار عمل "ثقة صفرية" (Zero Trust) لوكلاء الذكاء الاصطناعي مبنياً على خمس قدرات.
1. سجل مركزي للوكلاء
يتم تسجيل وتصنيف ومراقبة كل وكيل يعمل في المؤسسة. وتعرف إدارة تكنولوجيا المعلومات عدد الوكلاء النشطين، وما يفعله كل وكيل، والأنظمة التي يتصل بها، والمسؤول عنه. وتمر عمليات نشر الوكلاء الجدد بعملية مراجعة، للتخلص تماماً من الوكلاء المارقين.
حالياً، تعامل 21.9% فقط من المؤسسات وكلاء الذكاء الاصطناعي ككيانات مستقلة تحمل هوية خاصة بها. أما البقية فتدير الوكلاء كأدوات برمجية، وهو ما يغفل الفرق الجوهري: فالوكلاء يتصرفون بشكل مستقل ويحتاجون إلى ضوابط وصول خاصة بهم.
2. ضوابط الوصول القائمة على الهوية
يحصل كل وكيل ذكاء اصطناعي على هويته الخاصة مع صلاحيات وصول محددة ومقترنة بوظيفته. وكيل التوظيف يصل إلى نظام تتبع المتقدمين وقاعدة بيانات المرشحين، ولا يصل إلى السجلات المالية أو بيانات العملاء. ويتم منح حق الوصول على مستوى الوكيل، وليس موروثاً من المستخدم الذي قام بنشره.
3. مراقبة السلوك وكشف الأنماط الشاذة
تتم مراقبة سلوك الوكيل في الوقت الفعلي. فإذا بدأ وكيل المالية فجأة في الوصول إلى سجلات الموارد البشرية، أو إذا بدأ وكيل الدعم الفني في تسريب كميات بيانات خارجة عن الأنماط العادية، أو إذا انحرف أي وكيل عن نطاقه المحدد، يقوم النظام بالإبلاغ عنه فوراً.
4. تدقيق المخرجات وضوابط الجودة
يتم تسجيل مخرجات الوكلاء وتدقيقها وإخضاعها لعتبات الجودة. فإذا رفض وكيل الفرز 95% من المرشحين، فإن ذلك يستدعي المراجعة. وإذا قام وكيل مالي بمعالجة فاتورة تتجاوز حداً معيناً، يتم تحويلها للموافقة البشرية. وبذلك يمكن للمؤسسة إثبات القرارات التي اتخذها الوكلاء وأسبابها.
5. استراتيجية منصة موحدة
بدلاً من السماح لكل قسم بنشر أدوات الذكاء الاصطناعي الخاصة به، تضع المؤسسة معياراً موحداً يعتمد على منصة وكلاء ذكاء اصطناعي توفر حوكمة ومراقبة وضوابط وصول مدمجة. هذه هي الاستراتيجية نفسها التي حلت مشكلة تكنولوجيا المعلومات الظلية: منح الفرق أداة معتمدة وقادرة حتى لا يحتاجوا إلى البحث عن حلول خارجها.
ويؤكد تقرير Salesforce لحالة الاتصال ومقارنة الأداء سبب أهمية ذلك: حيث يعتقد 4 من كل 5 من قادة تكنولوجيا المعلومات أن تكاثر وكلاء الذكاء الاصطناعي سيؤدي إلى تعقيد أكبر من القيمة المرجوة دون تكامل مناسب. تدير المؤسسة المتوسطة 957 تطبيقاً ولكن 27% منها فقط متصلة ببعضها. وإضافة وكلاء ذكاء اصطناعي غير خاضعين للحوكمة إلى ذلك المشهد المجزأ يضاعف المشكلة بشكل كبير.
الضغوط التنظيمية آخذة في الازدياد
إذا لم تكن المخاطر الأمنية دافعاً كافياً، فإن القوانين والتشريعات بدأت تلحق بالركب.
هناك حالياً أربع ولايات أمريكية لديها تشريعات نشطة بشأن الذكاء الاصطناعي تمر عبر مجالسها التشريعية وهي: أوريغون، ويوتا، وفيرجينيا، وواشنطن. كما تم تأجيل قانون الذكاء الاصطناعي في كولورادو، الذي كان مقرراً في الأول من فبراير، إلى 30 يونيو. ودخل قانون سلامة الذكاء الاصطناعي في كاليفورنيا (SB 243) حيز التنفيذ في الأول من يناير. ويتطلب قانون نيويورك SB S8420A الآن من المعلنين الكشف عن الممثلين الاصطناعيين، مع فرض غرامات تبدأ من 1000 دولار لكل مخالفة.
وفي أوروبا، تقترب المواعيد النهائية للامتثال لقانون الذكاء الاصطناعي للاتحاد الأوروبي، على الرغم من أن المفوضية الأوروبية تستعد لتأجيل قواعد أنظمة الذكاء الاصطناعي عالية المخاطر من أغسطس 2026 إلى ديسمبر 2027. وفي الوقت نفسه، تنشر الجهات التنظيمية في قطاعات محددة مثل الخدمات المالية، والرعاية الصحية، والتوظيف إرشادات خاصة بالذكاء الاصطناعي.
ستتمكن المؤسسات التي يمكنها إثبات نشر وكلاء ذكاء اصطناعي خاضعين للحوكمة والتدقيق من التعامل مع هذه البيئة التنظيمية بيسر. أما المؤسسات التي تشهد انتشاراً عشوائياً للوكلاء دون حوكمة فستواجه إجراءات عقابية عندما يحدث خطأ ما. لقد حظيت الشركات التي طبقت حوكمة مناسبة للبيانات قبل فرض اللائحة العامة لحماية البيانات (GDPR) بميزة كبيرة، وسينطبق الأمر نفسه على حوكمة وكلاء الذكاء الاصطناعي قبل دخول الموجة القادمة من التشريعات حيز التنفيذ.
الحوكمة هي مسرّع الأعمال وليست المكابح
هناك تصور خاطئ ومستمر بأن الحوكمة تبطئ من تبني الذكاء الاصطناعي، لكن البيانات تقول عكس ذلك تماماً.
تظهر الأبحاث الصناعية أن الشركات التي لديها أطر حوكمة مناسبة للذكاء الاصطناعي تدفع بمشاريع ذكاء اصطناعي إلى مرحلة الإنتاج بمعدل 12 ضعفاً مقارنة بتلك التي تفتقر إليها. فالحوكمة لا تمنع النشر والتشغيل، بل تمنع الإخفاقات والتراجعات والحوادث التي تعطل برامج الذكاء الاصطناعي بالكامل.
إن الـ 73% من الرؤساء التنفيذيين للتكنولوجيا الذين ندموا على قراراتهم بشأن موفري خدمات الذكاء الاصطناعي لا يندمون على التحرك ببطء شديد، بل يندمون على التحرك دون وجود بنية تحتية لحوكمة ما قاموا بنشره. وعندما يقول 71% من هؤلاء الرؤساء التنفيذيين للتكنولوجيا أن ميزانية الذكاء الاصطناعي الخاصة بهم ستواجه تخفيضات إذا لم تتحقق أهداف العائد على الاستثمار بحلول منتصف عام 2026، فإن الضغط لضبط الحوكمة وتطبيقها بشكل صحيح لم يكن يوماً أعلى مما هو عليه الآن.
إن الطريق إلى الأمام ليس تقييد نشر وكلاء الذكاء الاصطناعي، بل توحيدهم وتركيزهم على منصة تمنح الفرق القدرة التي يحتاجونها مع الحوكمة التي تطلبها المؤسسة. إن الإجابة نفسها التي حلت مشكلة تكنولوجيا المعلومات الظلية تنطبق على انتشار الوكلاء: تقديم شيء أفضل مما قد تبنيه الفرق بمفردها، مع توفير الرؤية والضوابط التي تطلبها المؤسسة.
المؤسسات التي تتعامل مع هذا الأمر بشكل صحيح ستتحرك بشكل أسرع مع وجود وكلاء الذكاء الاصطناعي، وليس أبطأ. والمؤسسات التي تتجاهل الانتشار العشوائي للوكلاء ستتعلم الدرس بالطريقة الصعبة، إلا أن الفرق هذه المرة هو أن الوكلاء يتخذون القرارات، ولا يكتفون بمجرد تخزين الملفات.
