Beam AI Passes the NYC LL144 Bias Audit

أكملت Beam AI تدقيقاً مستقلاً للانحياز لنظام الذكاء الاصطناعي الوكيل (Agentic AI System) الخاص بها بموجب القانون المحلي رقم 144 لمدينة نيويورك، والذي تم إجراؤه والتحقق منه بواسطة Asenion (المعروفة سابقاً باسم Fairly AI). وقد ظهرت النتائج: منصتنا تلبي معايير العدالة والامتثال والشفافية.

نحن فخورون بهذا، ونعتقد أنه أمر بالغ الأهمية لأي جهة تقوم بتقييم منصات الذكاء الاصطناعي للاستخدام في المؤسسات والشركات.

ما هو القانون المحلي لمدينة نيويورك NYC LL144؟

يعد القانون المحلي رقم 144 لمدينة نيويورك، الساري منذ يوليو 2023، أحد أول القوانين في الولايات المتحدة التي تتطلب عمليات تدقيق مستقلة للانحياز لأدوات اتخاذ القرار الآلية. وينطبق هذا القانون على أنظمة الذكاء الاصطناعي المستخدمة في القرارات المتعلقة بالتوظيف، مثل فحص المرشحين تصفيتهم، أو تقييمهم، أو تصنيفهم.

يتطلب القانون ما يلي:

إجراء تدقيق مستقل للانحياز بواسطة مدقق خارجي مؤهل. يقيّم التدقيق التأثير المتباين عبر العرق والإثنية والجنس. يجب إتاحة النتائج للعامة، كما يجب تجديد التدقيق سنوياً.

بالنسبة للذكاء الاصطناعي للمؤسسات، يضع قانون LL144 سابقة هامة، حيث نقل الحوار من "نحن نأخذ العدالة على محمل الجد" إلى "أثبت ذلك بالدليل".

لماذا يهم هذا عملاءنا؟

إذا كنت تقوم بتشغيل وكلاء ذكاء اصطناعي عبر الموارد البشرية، أو الامتثال، أو سير عمل خدمة العملاء، فالسؤال ليس ما إذا كانت التنظيمات قادمة أم لا؛ بل هي موجودة بالفعل.

يعد LL144 تنظيماً يخص الولايات المتحدة، لكنه يتماشى مع نمط عالمي أوسع. يصنف قانون الذكاء الاصطناعي في الاتحاد الأوروبي (EU AI Act) أنظمة الذكاء الاصطناعي المستخدمة في التوظيف كأنظمة عالية المخاطر، مما يتطلب تقييمات مطابقة ومراقبة مستمرة. وتوفر مواصفة ISO/IEC 42001 إطار عمل لأنظمة الإدارة لحوكمة مسؤولة للذكاء الاصطناعي. تتقارب هذه المعايير حالياً، وترتفع معايير الأداء المطلوبة باستمرار.

بالنسبة لعملاء Beam، فإن اجتياز هذا التدقيق يعني:

• تحقق مستقل من أن نظام الذكاء الاصطناعي الوكيل لدينا قد تم اختباره بحثاً عن أي انحياز عبر الفئات المحمية قانونياً.

• جاهزية الامتثال للمؤسسات التي تعمل في مدينة نيويورك أو تتعامل مع عملاء مقيمين هناك.

• ووضع أساس متين لتلبية المتطلبات التنظيمية الأوسع نطاقاً مع توسع قوانين الذكاء الاصطناعي عبر مختلف السلطات القضائية.

هذا ليس جهداً يُبذل لمرة واحدة؛ فالذكاء الاصطناعي المسؤول يتطلب عمليات تدقيق مستمرة، ونحن نخطط للحفاظ على هذه الشهادة مع تطور البيئة التنظيمية.

منهجنا نحو ذكاء اصطناعي موثوق

لقد تم تصميم بنية منصة Beam مع مراعاة قابلية التدقيق في المقام الأول. فكل قرار يتخذه وكيل الذكاء الاصطناعي هو قرار قابل للتتبع، كما تتسم تدفقات المنطق والبيانات بالشفافية والوضوح. وهذا ما جعل عملية تدقيق LL144 واضحة ومباشرة: فعندما يتم تصميم نظامك ليكون شفافاً، يصبح إثبات العدالة نتيجة طبيعية وتلقائية.

نحن ممتثلون أيضاً للائحة العامة لحماية البيانات (GDPR)، وحاصلون على شهادة ISO 27001، ومعتمدون بشهادة SOC 2، مع توفير خيارات لتوطين البيانات في الاتحاد الأوروبي، والسحابة الخاصة، والنشر الداخلي لدى العميل (On-premise). ويضيف تدقيق الانحياز LL144 طبقة حماية أخرى إلى هذا الأساس المتين.

نبذة عن Asenion

تم إجراء التدقيق بواسطة Asenion (المعروفة سابقاً باسم Fairly AI و anch.AI)، وهي شركة متخصصة في حوكمة الذكاء الاصطناعي، وتدقيق الانحياز، والامتثال. وقد تم إدراج Beam AI في سجل ثقة الذكاء الاصطناعي (AI Trust Registry) التابع لـ Asenion، وهو دليل عام للمؤسسات التي أكملت عمليات تدقيق مستقلة للذكاء الاصطناعي.

نحن نشكر فريق Asenion على هذه العملية الشاملة والتعاونية.

ما هي الخطوة التالية؟

الذكاء الاصطناعي المسؤول هو التزام مستمر، وليس مجرد إنجاز تجتازه ثم تنساه. سنواصل الاستثمار في اختبارات العدالة، وجاهزية الامتثال، والذكاء الاصطناعي الشفاف مع تطور اللوائح والتنظيمات في الولايات المتحدة وأوروبا وخارجهما.

إذا كنت تقوم بتقييم منصات الذكاء الاصطناعي وكان الامتثال مدرجاً في جدول أعمالك، يسعدنا أن نوضح لك بالتفصيل كيف تتعامل Beam مع هذا الأمر.