الوعي الاصطناعي: أكبر تحدي أخلاقي يواجهنا

ترجمة وإعداد: محمد زين العابدين

By: © PAUL CONRAD SAMUELSSON 2019

يناقش كاتب المقال (بول كونراد سامويلسون) المخاطر المحتملة للاستخدامات غير المدروسة لتطبيقات الوعي الاصطناعي، والعواقب الأخلاقية التي تنذر بدمار البشرية إذا أسيء استخدامها.

تطورات وإنجازات مذهلة في مجال الذكاء الاصطناعي:

إن الجدل حول القفزات المتلاحقة في التطورات التكنولوجية الحديثة هو الصّيحة الحديثة في الفلسفة. ويأتي الذكاء الاصطناعي في مقدمة هذه التطورات المذهلة، والذي يبدو أنه سيصبح أكبر قفزة تكنولوجية في التاريخ. لا أحد يستطيع أن يفهم مدى استخداماته المحتملة، ولكن من بين الإنجازات التي تم تنفيذها بالفعل بواسطة مجرد برامج شبه ذكية: التغلب على أفضل لاعبي الشطرنج البشريين في العالم، وتشخيص مرض السرطان بشكل أكثر موثوقية من أطباء الأورام المدربين، وكتابة موسيقى، لا يستطيع المستمعون تمييزها عن مثيلتها المؤلفة بواسطة الموسيقيين البشر، وقراءة العقود القانونية المليئة بالبنود، والتعليق عليها في ثوانٍ معدودة.

إن التطبيقات المحتملة للذكاء الاصطناعي مذهلة للغاية؛ بحيث يبدو أننا سنكون في وضع يسمح لنا بالاستعانة بمصادر خارجية في جميع الأعمال اليدوية، وحل المشكلات الإبداعية، بل وحتى في العمل الذهني، وستكون كل هذه التطبيقات متاحة في أقل من قرن، إنه يُعَّد أعظم اختراع واعد في عصرنا.

مخاوف غامضة تجاه الذكاء الاصطناعي:

عندما تنطلق المناقشات حول الذكاء الاصطناعي، بواسطة الرموز العظيمة للثقافة التقنية في عصرنا، على منصات المنتديات حول العالم، فإن الصورة ليست دائماً متفائلة. يطرح الذكاء الاصطناعي بعض المخاوف الغامضة حقًا، لقد احتلت بعض المشكلات الوجودية مركز الصدارة فيما يتعلق بالمخاطر المباشرة على البشرية من الإمكانات غير المتصورة حرفياً للذكاء الاصطناعي الذي يتطور ذاتيا.

يحذر كل من (سام هاريس)، و(إيلون ماسك)، و(ماكس تيجمارك)، و(نيك بوستروم) من خطر أن يؤدي الذكاء الاصطناعي الذي يمكنه تحسين نفسه بنفسه إلى تدمير المجتمع الحديث كنتيجة لبرنامج سيء الصياغة، أو إهمال في إدارة هذه البرامج الذكية، فعلى سبيل المثال، بالنظر إلى بعض المهام التي يتم تكليف برامج الذكاء الاصطناعي بإنجازها قد يستنتج برنامج الذكاء الاصطناعي أن أسهل طريقة لإتمامها هي تحويل الكوكب بأكمله إلى مختبر أبحاث وإزالة جميع الوظائف غير المرتبطة بالهدف المراد إنجازه بما في ذلك الحياة البيولوجية بأكملها ويمكن تصوير هذه العملية بطاقم بناء يستثمر كل اندفاعه العاطفي؛ ليزيل تلال النمل، لإفساح المجال لطريق سريع جديد!             

مخاطر حدوث إبادة جماعية على أيدي الحواسيب فائقة القوة:

إن احتمالية حدوث إبادة جماعية على أيدي أجهزة كمبيوتر فائقة القوة أمر مرعب، خاصة أنها تمت صياغتها من خلال وسيط بشري، يمكن له إساءة استخدامها من خلال البرمجة الخاطئة أو استخدام الروتينات القذرة (والروتين: هو عبارة عن محرك ذكي، في برامج الذكاء الصناعي يحدد تلقائياً عناصر البيانات المهمة في مصدر البيانات، وينشئ إجراءات لإصلاح المشكلات الحادثة فيها، ويتم تصميمه ليتناسب مع مجموعات البيانات الكبيرة). تُصَّوِر العديد من الأفلام، والكتب التهديد الصادر من الخصوم السيبرانيين، والذين يخلقون (ديستوبيا) مُرَّوِعة، وهو ما قد يصيبك بالصدمة كأفظع المخاطر الأخلاقية التي نواجهها بالنسبة للاستمرار في تطوير برامج الذكاء الاصطناعي.  بل إن تقنيتنا الجديدة قد تسفر عن أوضاع أسوأ. في الواقع لا تتعلق أكبر المخاطر الأخلاقية بما قد يفعله الذكاء الاصطناعي بنا، ولكن بما قد نفعله نحن بها إذا قمنا بتطوير آلات ذكية لديها وعى إدراكي مع القدرة على التفكير والشعور؛ فحينئذ سيتطلب هذا مبادئ أخلاقًية حاكمة للذكاء الاصطناعي. وفي النهاية سيتعين علينا أن نبدأ في العمل بشكل صحيح من خلال برامج الكمبيوتر الخاصة بنا، والتي ستفي قريباً بأي معايير مطلوبة في إطار ما يمكن اعتباره مواضيع أخلاقية.

الوعي الرقمي ومخاطر العبث به:

في الأساس، يبدو أن علم الأعصاب يشير إلى أن خبراتنا الواعية بأكملها تنبع من نشاطنا العصبي، وهذا لا يمثل اختزالاً مادياً للعقل إلى ما هو مادي، بل للتأكيد على أنه مهما كان الوعي، فإن أصله مادي في الدماغ والجهاز العصبي المركزي، ويبدو أن أولئك الذين يجادلون ضد الاحتمال النظري للوعي الرقمي يتجاهلون حقيقة أن الوعي البشري ينشأ بطريقة ما من تكوينات الذرات اللاواعية.

 وعلاوة على ذلك، يبدو أنه يمكن وصف العمليات العصبية البشرية- من حيث الشبكات العصبية- والتي يمكن بالفعل محاكاتها في أجهزة الكمبيوتر إلى حد السماح لها بالتعرف على الصور، أو ممارسة ألعاب معقدة.

لا تزال هذه الشبكات الاصطناعية بدائية نسبياً. لكن في نهاية المطاف- ربما قريباً- ستتفوق على شبكاتنا العصبية البشرية، في القدرات، والإبداع، والنطاق، والكفاءة. ولذلك فعلى الرغم من أن قدرة أجهزة الكمبيوتر على الشعور والمعاناة تبدو بعيدة المنال، إلا أنها تقترب من التحقيق طوال الوقت.

إذا افترضنا إذن، أنه سيكون بمقدورنا أن نخلق الوعي رقمياً، فيجب أن يكون واضحا أن المعاناة من الذكاء الاصطناعي من المحتمل أن تكون أكثر بشاعة إلى ما لا نهاية، حتى من أسوأ معاناة بشرية يمكن تخيلها. نحن نقف في وضع يسمح لنا بتطوير وسائل لخلق كميات من الألم، تفوق إلى حد كبير أي شيء سبق رؤيته في تاريخ معاناة الإنسان، أو الحيوان.

إن العوائق التي تحول دون خلق معاناة بيولوجية، تتمثل في الحاجة إلى عدد من الكائنات البيولوجية المحتملة، منخفض نسبياً، ويحتاج لرعاية عالية، وهي عرضة لأن تصبح غير حساسة للمثيرات المؤلمة. وفي العالم الرقمي، عندما يمكن برمجة الوعي المحاكي في أجهزة الكمبيوتر بحيث يخضع لأي قوانين نرغب فيها، فإنه يمكن التغلب على هذه العوائق.

أما العواقب، فهي ليست مفهومة تماماً. لكن اسمحوا لنا أن نرسم صورة لما يمكن أن يكون ممكناً، يمكن لشخص ما على سبيل المثال، إعادة إنشاء معسكر اعتقال رقمياً، وملئه بأجهزة الذكاء الاصطناعي الواعية، والمدركة للمعاناة، وتركها تعمل في حلقة مفرغة إلى الأبد. قد يكون من الممكن حتى زيادة سرعة المعاناة، بحيث يتم إتمام ألف تكرار لمعسكر الاعتقال كل ثانية.

من منظور الذكاء الاصطناعي، لن يختلف هذا عما شعر به أولئك الذين عانوا من الشيء الحقيقي، وحينئذ سيستخدم المبرمجون وظيفة النسخ واللصق على أجهزة الكمبيوتر الخاصة بهم، ومضاعفتها مرة أخرى. ولذا فإن السبب في أن الذكاء الاصطناعي الذي سيتم إدماج الشعور بالألم بداخله هو التحدي الأخلاقي الأكبر في عصرنا؛ لأنه يمكن بسهولة أن يتسبب في معاناتنا.

تخيل أن مراهقاً يشعر بالملل، يعثر على برنامج ذكاء اصطناعي غير قانوني على الإنترنت، ويستخدمه لمضاعفة مقدار الألم الذي تمت المعاناة منه على مدار تاريخ العالم، كل ذلك في ظهيرة واحدة، وهو جالس على الأريكة المريحة. فإذا كان هذا الوصف لا يستفزك، ربما كان ذلك بسبب أن مفهوم وجود تريليون شخص يعانون بلا حدود داخل جهاز الكمبيوتر هي فكرة مجردة للغاية بالنسبة لنا، بحيث لا تستميل تعاطفنا.

هل تنتصر الاختراعات على الأخلاق؟

إن تقدم الاختراع ملموس، وعالي السرعة ومفيد للغاية بالنسبة للجميع، ويشعر القليل من الناس أنهم بحاجة إلى مزيد من الحافز لتبني أدوات، وبرامج وأسلحة أحدث وأكثر جرأة من أي وقتٍ مضى، ومع ذلك، فإنه مع تقدم القصة، تصبح اختراعاتنا أكثر قوة، وبالتالي أكثر خطورة. وحتى الآن يمكن التّحكم في الحوادث المحتملة.

لقد نجونا من كوارثنا النووية التاريخية؛ بسبب صغر حجم نطاق تأثيرها نسبياً، أما الذكاء الاصطناعي فهو اختراع يعد بأن يكون أكثر تدميراً إذا أسيء استخدامه لدينا المخاطر الوجودية على البشرية التي سبق أن أثارها الكُتَّاب المشار لهم سالفاً.

     المصدر: ( Philosophy Now Magazine- July 2019)

الثامن عشر بعد المائة العدد الأخير ثقافة وفكر

عن الكاتب

محمد زين العابدين

اترك تعليقاً