الذكاء الاصطناعي القابل للتفسير (XAI)

يشير الذكاء الاصطناعي القابل للتفسير إلى الأساليب التي تجعل تنبؤات نماذج تعلّم الآلة مفهومة للبشر، مع إظهار المدخلات التي قادت إلى مخرَج معيّن. وفي الصناعة يتيح للمهندسين الثقة في الإنذارات المدفوعة بالذكاء الاصطناعي والتصرف بناءً عليها بدلاً من التعامل معها كصندوق أسود.

كثير من النماذج الصناعية عالية الأداء — الشبكات العصبية والأشجار المعزَّزة بالتدرّج — تُعدّ غامضة: فهي تُخرِج احتمال عطل أو قيمة ضبط دون الكشف عن السبب. يضيف الذكاء الاصطناعي القابل للتفسير طبقة تنسب التنبؤ إلى المتغيرات المساهمة فيه، مثل إظهار أن شذوذاً تم رصده يعود أساساً إلى ارتفاع في حرارة محمل وانخفاض في معدل التدفق.

تشمل التقنيات الشائعة درجات أهمية الخصائص والتفسيرات المحلية التي تصف المنطق وراء تنبؤ مفرد. ولا تغيّر هذه الأساليب النموذج الأساسي؛ بل تفسّره بعد وقوعه أو تستخدم بنى نماذج شفافة بطبيعتها.

تكتسب القابلية للتفسير أهميتها في البيئات الصناعية لأن المشغّلين مسؤولون عن قرارات حرجة للسلامة وباهظة التكلفة. فالإنذار الذي يستطيع المهندس استجوابه يُتخذ بشأنه إجراء، أما الإنذار غير المفسَّر فيُتجاهَل. كما تدعم القابلية للتفسير التحقق والقبول التنظيمي وتصحيح النماذج التي تنحرف مع مرور الوقت.

مصطلحات ذات صلة

Machine Learning (Industrial) · Neural Network · Anomaly Detection