يُعتبر الحاسب هال 9000 HAL9000 الذي يحلم به مؤلف الخيال العلمي آرثر كلارك Arthur C. Clarke والذي أخرجه إلى النور المخرج السينمائي ستانلي كوبريك Stanley Kubrick في عام 2001 في ملحمة الفضاء A Space Odyssey مثالًا جيّدًا عن فشلِ نظامٍ بسبب عواقبَ غيرِ مقصودةٍ. ففي العديد من النظم المعقدة، كتيتانيك آر أم أس RMS Titanic، مكوك الفضاء ناسا، ومحطة تشرنوبيل للطاقة النووية The Chernobyl nuclear powerplant، قد يعرف المصممون جيدًا طريقة عمل كلّ عنصرٍ على حدة، إلا أنهم لم يصلوا بعد لمعرفة ما يكفي لعمل هذه العناصر معًا! وقد أدّى ذلك إلى إيجاد نظمٍ لا يمكن فهمها أبدًا! ويمكن أن تفشل بطرقٍ غير متوقعةٍ. ففي كلّ كارثةٍ، كغرق سفينةٍ، أو تفجير مكوكين ونشر التلوث الإشعاعي في جميع أنحاء أوروبا وآسيا، فإن مجموعةً من المحاولات الفاشلة الصغيرة نسبيًا قد اجتمعت لخلق كارثةٍ حقيقيةٍ. نستطيع رؤية إمكانية وقوعنا في فخ بحوث الذكاء الاصطناعي نفسه ونحن ننظر إلى أحدث أبحاث العلوم المعرفية ونترجم ذلك إلى خوارزمياتٍ ونضيفه إلى نظامٍ قائمٍ، إننا نحاول في البداية هندسة الذكاء الاصطناعي دون وعيٍ أو ذكاءٍ. تزوّد أنظمةٌ مثل واتسون آي بي إم IBM's Watson وألفا غوغل Google's Alpha الشبكات العصبية الاصطناعية بقوة حوسبةٍ هائلةٍ، وتحقق إنجازاتٍ مثيرةٍ للإعجاب. لكن قيام هذه الآلات بأيّ خطأٍ سيجعلها خطرةً. ولا تُعتبر هذه العواقب متغيرةً عالميًا، في الواقع إن أسوأ ما قد يحدث لشخصٍ عاديٍّ نتيجة ذلك هو فقدان بعض المال المرهون على نجاحها. لكن على الرغم من أن تصاميم الذكاء الاصطناعي معقدةٌ وبحاجة آليةٍ أسرع، فإن مهاراتها ستتحسن وسيقودنا هذا إلى منحها مزيدًا من المسؤولية، حتى مع ازدياد خطر النتائج غير المقصودة. فنحن نعلم الخطر البشري الكامن لذا فمن المستحيل بالنسبة لنا خلق نظامٍ آمنٍ تمامًا.
طيار مهندس/ محمد الشعلان | Capt. Mehmed asch-Schaalan | 5317