كتبت يولا هاشم في “المركزية”:
المركزية – في خطوة ثورية في مجال الذكاء الاصطناعي، أطلقت شركة “مونيكا” (Monica) الصينية أخيراً وكيل الذكاء الاصطناعي المستقل “مانوس” (Manus). يختلف “مانوس” عن النماذج التقليدية للذكاء الاصطناعي مثل “تشات جي بي تي” و”جيمناي”، إذ إنه لا يقتصر على الإجابة عن الأسئلة أو تنفيذ مهام محدودة، بل هو نموذج ذكاء اصطناعي متطور ومصمم ليكون وكيلاً ذاتياً(General AI Agent) ، قادراً على تنفيذ عمليات معقدة دون تدخل بشري مباشر، ويمكنه تحديد المشكلات، والتخطيط للحلول، وتنفيذها بذكاء واستقلالية عاليتين. لكن، الأمر دونه مخاطر لا سيما حول إمكانية تحكم الذكاء الاصطناعي بالبشرية وتفلتها منه ما لم يكن تحت إشراف البشر وصولا الى الانقلاب عليه؟ فماذا يعني أن يتخذ قرارات من دون تدخل بشري؟
الخبير في الأمن السيبراني والتحول الرقمي رولان ابي نجم يؤكد لـ”المركزية” “ان “الفرق بين “مانوس” وبرامج الذكاء الاصطناعي الأخرى مثل “شات جي بي تي” و”جيميناي”، هي ما يُطلق عليه تسمية AI Agent أي العميل. والفكرة بدأت بها “شات جي بي تي” لكنها لم تطلقها رسميًا بعد. حتى “مانوس”، ليس باستطاعة أي كان استخدامه، لأنه يحتاج الى تقديم طلب والحصول على الموافقة قبل ذلك.ويضيف: “إذا طلبت من “تشات جي بي تي” مثلًا أن ينظم لك رحلة سياحية الى ايطاليا، فسيقدم لك برنامجًا كاملًا ويعطيك لائحة بأفضل الفنادق أو شركات استئجار السيارة والاماكن السياحية وغيرها من التفاصيل. بينما في الـAgent، لا يقدم لك البرنامج أفضل العروض لتختار من بينها، بل يقوم بحجز كل الرحلة واتخاذ الخطوات المناسبة. وهذا ما نعني به من دون تدخل أي عامل بشري. لكن في النهاية يجب ان يكون هناك عامل بشري يطلب هذه المهام كي ينفذها البرنامج”.
هل من الممكن ان يخرج عن سيطرة البشر؟ يجيب أبي نجم: “الذكاء الاصطناعي يتكوّن من داتا وبيانات وخورزميات اي برمجياته مع الـcomputing power والتي تتمثل بقدرة حاسوبية هائلة. ونتحدث هنا عن كمبيوترات خارقة او سوبر كمبيوتر، كالروبوتات (رجل آلي) الموجودة في المنازل. عندما أعطي هذا الروبوت الفيزيائي أوامر لتنفيذ مهام معينة، يمكن في أي وقت من الأوقات أن يتعرّض لعطل في البرمجيات أوالـhardware او في اي قطعة موجودة في داخله، تماما كما يحصل في أجهزة الكمبيوتر والهاتف”.
ويشير أبي نجم الى ان “برامج “شات جي بي تي” مثلًا يمكن ان تقوم بهلوسات، كأن نسأله سؤالا فيعطي جوابا خاطئا. ومؤخرا انتشرت قصة حصلت مع أحد المستخدمين لبرنامج “جيميناي” (برنامج الذكاء الاصطناعي التابع لغوغل)، الذي كان يطرح أسئلة لدرجة استفزت البرنامج، فأرسل له رسالة تقول بأن لا نفع له وطلب منه الانتحار. فلنتخيل هذه الهلوسات والمشاكل البرمجية تحصل لروبوت في منزل ما. وبدل ان يقول لصاحبه “اذهب واقتل نفسك” يأخذ المبادرة بنفسه ويقتله او ان يضرب صاحبه في حال غضب منه. كما ان هامش الخطأ وارد لدى الروبوتات التي تعمل في المجال الطبي خلال إجرائها العمليات الجراحية، ما قد يؤدي الى وفاة المريض، او أيضًا لدى السيارة ذاتية القيادة ما قد يؤدي الى حادث مميت. كل هذه الامور تحمل مخاطر وواردة، وقد يخرج الذكاء الاصطناعي عن السيطرة، لأنه عبارة عن برمجيات وبيانات يمكن ان تتعطل في اي لحظة وتؤدي الى أضرار”.
ويستطرد: “كل شيء في العالم يحتمل مخاطر، ويسمى risk management. نعاين كل يوم حوادث سيارات أو طائرات او غيرها.. فهل قرر أحد الاستغناء عنها؟ وكذلك، المخاطر الموجودة في الذكاء الاصطناعي أصبحت واقعا لا مفر منه، وبالتالي يفترض وضع إدارة لهذه المخاطر للتخفيف منها قدر الامكان. ايلون ماسك أعلن عام 2018 ان الذكاء الاصطناعي أخطر من السلاح النووي، لأن السلاح النووي بيد الحكومات بينما الذكاء الاصطناعي في متناول أي شخص. مهما حاولنا ان نضع تشريعات وقوانين من أجل ضبطه فلن نتمكن من ذلك. إذا وضعنا مثلا قوانين في الاتحاد الاوروبي، فهي لا تطبق في الولايات المتحدة الاميركية او لبنان او غيرها من الدول. هناك العديد من الاشخاص الذين يخرجون من الاتحاد الاوروبي ويؤسسون شركات في دول أخرى لا تطبق فيها هذه القوانين. في الذكاء الاصطناعي مثلا تقنيات deep fake او التزوير العميق حيث يمكن تركيب فيديو كامل متكامل لشخص معين يشتم فيه رئيس الجمهورية او يدعو للارهاب، فيتم اعتقاله من دون اي يكون له اية علاقة في الموضوع. وإذا كان الشخص الذي فبرك الفيديو موجود في كوريا الشمالية، فمن يمكن ان يطاله؟ هذه هي الاشكالية الكبيرة التي نتحدث عنها. حتى لو وضعنا قوانين وتشريعات فلن نتمكن من تطبيقها. إذا كان ثمة برنامج ذكاء اصطناعي يؤذي المستخدمين او الغير، لكن كل الاشخاص في لبنان تستخدمه، وهو مصنوع في زيمبابوي، ما الذي يمكن ان نفعله؟”
ويختم أبي نجم: “المخاطر موجودة وستزيد مع الوقت. الذكاء الاصطناعي وسيلة، يبقى الخوف من استخدام الانسان له وليس العكس”.