يحذّر العديد من الخبراء من تطوير الذكاء الاصطناعي بسرعةٍ كبيرةٍ. قد تبدو التهديدات المحتملة التي يمكنه تشكيلها كالخيال العلمي، ولكنها يمكن أن تثبت في نهاية المطاف أنها مخاوفُ صحيحةٌ.
وبالمثل، فقد حذّر خبراء مثل ستيفن هوكينغ Stephen Hawking منذ فترةٍ طويلةٍ من قدرة الذكاء الاصطناعي على تدمير البشرية. في مقابلة أجراها عام 2014، ذكر الفيزيائي الشهير: "أن تطوير الذكاء الاصطناعي بإمكانه إنهاء الجنس البشري". بل إنه يرى أن انتشار الأتمتة سيشكّل ضررًا على الطبقة المتوسطة. وقال خبيرٌ آخر هو مايكل فاسار Michael Vassar، كبير موظفي العلوم في ميتامد ريسيرتش MetaMed Research: "إذا اختُرعَ ذكاءٌ اصطناعيٌّ عامٌ artificial general intelligence أعظم من الإنسان دون حذرٍ كافٍ، فمن المؤكد أن الأجناس البشرية سوف تنقرض في وقتٍ قصيرٍ جدًا".
ومن الواضح، على الأقل في المجتمع العلمي، أن التنمية غير المقيدة للذكاء الاصطناعي قد لا تكون في مصلحة البشرية. وتُبذل حاليًا جهودٌ للبدء في صياغة بعض هذه القواعد لضمان تطوير الذكاء الاصطناعي، الموجَّه أخلاقيًا، فقدّم معهد مهندسي الكهرباء والإلكترونيات Institute of Electrical and Electronics Engineers أوّل مسودةٍ من المبادئ التوجيهيةِ التي يُؤمل أن توجِّه المطورين في الاتجاه الصحيح. يقول ستيفن هوكينج: "تطوير الذكاء الاصطناعي بإمكانه إنهاء الجنس البشري". بالإضافة إلى ذلك، فإن أكبر الأسماء في التكنولوجيا تجتمع معًا للتنظيم الذاتي قبل اتخاذ الحكومات أيّة خطواتٍ. وقد بدأ بالفعل الباحثون والعلماء من شركات التكنولوجيا الكبيرة مثل غوغل Google، وأمازون Amazon، ومايكروسوفت Microsoft ، وآي بي إم IBM ، وفيسبوك Facebook بمناقشاتٍ لضمان تحقيق الذكاء الاصطناعي المنفعة للإنسانية وليس تهديدها.
طيار مهندس/ محمد الشعلان | Capt. Mehmed asch-Schaalan | 5618