إبتكر فريق من الباحثين من جامعات ماساتشوستس  وستانفورد مقاربة جديدة لمنع السلوك غير المرغوب فيه للآلات الذكية، عنوان مقالهم مستوحى من القوانين الثلاثة  للروبوتات لإسحاق أسيموف. وقد قام هؤلاء الباحثين بإنشاء إطار عمل أو بنية أساسية للبرنامج لتجنب الأخطاء الواردة في تقنية  الذكاء الاصطناعي.

حققت تقنية الذكاء الاصطناعيAI” قفزات كبيرة للأمام من خلال التعلم العميق “deep learning “، والذي يمكن أن يحقق معدلات خطأ منخفضة جدًا في العديد من المهام مثل تقنية التعرف على ملامح الوجه . غير أن هناك وضعيات لا يسمح فيها بأدنى خطأ بسيط.
وتضع الأنظمة الحالية المسؤولية على المستخدم النهائي ، الذي يجب عليه ضبط مستوى الحساسية ، مما يؤثر على معدل ونوع الأخطاء دون الحاجة إلى فهم العملية بالضرورة.

وفي هذا السياق أبرز الباحثون المشكلة في حالتين ملموستين: الأولى تتمثل في دعم الذكاء الاصطناعي لمضخة الأنسولين لإدارة علاج مرضى السكري تلقائيًا. حيث يعتبر معدل الخطأ المقبول منخفضا للغاية ، فالجرعة الزائدة يمكن أن تؤدي بالمريض إلى غيبوبة، أما الحالة الثانية فهي التنبؤ بنتائج الطلبة في الجامعة بناءً على اختبارات القبول.

ولمنع هذه الأخطاء ، إبتكر الباحثون  خوارزميات “Seldonian” ، نسبة إلى اسم Hari Seldon ، بطل سلسلة مؤسسة Asimov. حيث وضعوا حدودًا لا يجب على الذكاء الاصطناعي أن يتجاوزها مقارنة بالأساليب التقليدية الأخرى. وقد أظهرت النتائج انخفاضًا واضحا  في حالات  نقص السكر في الدم لدى مرضى السكري  ودقة عالية في توقع نتائج الطلاب.

 

أضف تعليقك

تعليق
المستخدم