في عام 1942 نشر كاتب الخيال العلمي إسحاق عظيموف (وهو أمريكي من أصل روسي) قصة قصيرة بعنوان التملص (Runaround)... وكان بطل القصة رجلاً آلياً (أو روبوتاً) تمت برمجته وفق ثلاثة قوانين للسلامة:
- القانون الأول: لا يجوز للروبوت إيذاء البشر أو حتى يسمح بذلك.
- القانون الثاني: يجب على الروبوت طاعة أوامر البشر باستثناء ما يتعارض مع القانون الأول.
- القانون الثالث: على الروبوت أن يحافظ على استمراريته في العمل وسلامته من العطل إلا إذا تعارض هذا مع القانون الأول والثاني.
ورغم أن هذه القوانين ذكرت عرضا في سياق القصة إلا أنها سرعان ما دخلت عالم الأدب، والصناعة، وبرامج الكمبيوتر..
ففي عالم الأدب أصبح من الصعب تأليف رواية خيالية لا يتقيد فيها الروبوت بهذه القوانين (خصوصا أن عظيموف نفسه هو أول من ابتكر كلمة «روبوت» في روايته الكاذب عام 1941). وحتى حين لا يتقيد أحد الكتاب بهذه القوانين الثلاثة - ويعمل خارج إطارها - يتحول هذا التمرد الى جزء من الحبكة ذاتها (كون سياق القصة لا يخرج عن تمرد الروبوتات على هذه القوانين أو الالتزام بها)...
أما في عالم الصناعة فأصبحت قوانين عظيموف الثلاثة جزءاً من خطوط الإنتاج وآلات الصنع الذاتية. وفي اليابان بالذات (حيث تصنع روبوتات لمختلف الأغراض) يتم التأكد من عملها من خلال هذه القوانين حفاظا على سلامة المتعاملين معها.. وفي الشهر الماضي فقط قالت وزارة الاقتصاد والتجارة اليابانية إنها بصدد التوسع في قوانين السلامة التي وضعها عظيموف لتلبية المهام الجديدة لأجهزة الروبوت (خصوصا تلك التي تشبه البشر). ويعود السبب - وراء التوسع في هذه القوانين - الى ظهور أنواع جديدة تعمل في المستشفيات ورياض الأطفال ودور العجزة.. وفي هذه الحالة قد يتقيد الروبوت بالقانون الأول (عدم الإيذاء) والثاني (إطاعة الأوامر) والثالث (الاستمرار في العمل) ولكنه لا يفهم مواقف أخرى لا تدخل تحت هذه البنود (مثل استدعاء الطبيب عند الطوارئ وإرضاع الطفل حين يبكي)!!!
أما في عالم البرمجة (حيث المجال أكبر بكثير من الصناعة والأدب) فأصبح لزاماً تصميم البرامج الذكية وفق قوانين عظيموف الثلاثة.. فسواء كان البرنامج خاصا بالكمبيوتر أو الجوال أو بطاقة الصرف الآلي أو حتى المصاعد وأجهزة التكييف - يجب أن تعمل وفقا ل(عدم الإيذاء والضرر) و (طاعة المستهلك) و (سلامتها من الأعطال).. وهذا يعني أن شركة «مايكروسوفت» حين تبيعنا برنامج ويندوز يسمح باختراق الكمبيوتر أو تسريب المعلومات تكون قد خالفت القانون الأول (عدم الإيذاء والضرر) أما حين يفشل برنامجها في الاستجابة للأوامر - أو لايملك القدرة على إصلاح نفسه بطريقة ذاتية - تكون قد خالفت القانون الثاني والثالث (طاعة المستهلك، والسلامة من الأعطال)!!
المفارقة العجيبة أن قوانين عظيموف الثلاثة أتت بشكل عرضي وغير مقصود ضمن أحداث الرواية. ورغم أن أحداً في البداية لم يأخذها على محمل الجد (كما فعلت أنا في بداية المقال) إلا أنها بدأت تثبت أهميتها وواقعيتها مع تقدم البرامج وتطور الذكاء الاصطناعي في الأجهزة الحديثة.. واليوم لم تعد العائلات في اليابان وكوريا الجنوبية تجازف بشراء أي «روبوتات» أو برمجيات لا تعمل وفق قوانين عظيموف السابقة...
- القانون الأول: لا يجوز للروبوت إيذاء البشر أو حتى يسمح بذلك.
- القانون الثاني: يجب على الروبوت طاعة أوامر البشر باستثناء ما يتعارض مع القانون الأول.
- القانون الثالث: على الروبوت أن يحافظ على استمراريته في العمل وسلامته من العطل إلا إذا تعارض هذا مع القانون الأول والثاني.
ورغم أن هذه القوانين ذكرت عرضا في سياق القصة إلا أنها سرعان ما دخلت عالم الأدب، والصناعة، وبرامج الكمبيوتر..
ففي عالم الأدب أصبح من الصعب تأليف رواية خيالية لا يتقيد فيها الروبوت بهذه القوانين (خصوصا أن عظيموف نفسه هو أول من ابتكر كلمة «روبوت» في روايته الكاذب عام 1941). وحتى حين لا يتقيد أحد الكتاب بهذه القوانين الثلاثة - ويعمل خارج إطارها - يتحول هذا التمرد الى جزء من الحبكة ذاتها (كون سياق القصة لا يخرج عن تمرد الروبوتات على هذه القوانين أو الالتزام بها)...
أما في عالم الصناعة فأصبحت قوانين عظيموف الثلاثة جزءاً من خطوط الإنتاج وآلات الصنع الذاتية. وفي اليابان بالذات (حيث تصنع روبوتات لمختلف الأغراض) يتم التأكد من عملها من خلال هذه القوانين حفاظا على سلامة المتعاملين معها.. وفي الشهر الماضي فقط قالت وزارة الاقتصاد والتجارة اليابانية إنها بصدد التوسع في قوانين السلامة التي وضعها عظيموف لتلبية المهام الجديدة لأجهزة الروبوت (خصوصا تلك التي تشبه البشر). ويعود السبب - وراء التوسع في هذه القوانين - الى ظهور أنواع جديدة تعمل في المستشفيات ورياض الأطفال ودور العجزة.. وفي هذه الحالة قد يتقيد الروبوت بالقانون الأول (عدم الإيذاء) والثاني (إطاعة الأوامر) والثالث (الاستمرار في العمل) ولكنه لا يفهم مواقف أخرى لا تدخل تحت هذه البنود (مثل استدعاء الطبيب عند الطوارئ وإرضاع الطفل حين يبكي)!!!
أما في عالم البرمجة (حيث المجال أكبر بكثير من الصناعة والأدب) فأصبح لزاماً تصميم البرامج الذكية وفق قوانين عظيموف الثلاثة.. فسواء كان البرنامج خاصا بالكمبيوتر أو الجوال أو بطاقة الصرف الآلي أو حتى المصاعد وأجهزة التكييف - يجب أن تعمل وفقا ل(عدم الإيذاء والضرر) و (طاعة المستهلك) و (سلامتها من الأعطال).. وهذا يعني أن شركة «مايكروسوفت» حين تبيعنا برنامج ويندوز يسمح باختراق الكمبيوتر أو تسريب المعلومات تكون قد خالفت القانون الأول (عدم الإيذاء والضرر) أما حين يفشل برنامجها في الاستجابة للأوامر - أو لايملك القدرة على إصلاح نفسه بطريقة ذاتية - تكون قد خالفت القانون الثاني والثالث (طاعة المستهلك، والسلامة من الأعطال)!!
المفارقة العجيبة أن قوانين عظيموف الثلاثة أتت بشكل عرضي وغير مقصود ضمن أحداث الرواية. ورغم أن أحداً في البداية لم يأخذها على محمل الجد (كما فعلت أنا في بداية المقال) إلا أنها بدأت تثبت أهميتها وواقعيتها مع تقدم البرامج وتطور الذكاء الاصطناعي في الأجهزة الحديثة.. واليوم لم تعد العائلات في اليابان وكوريا الجنوبية تجازف بشراء أي «روبوتات» أو برمجيات لا تعمل وفق قوانين عظيموف السابقة...
