أطلق بول كريستيانو، عضو مجلس إدارة شركة OpenAI والمدير التنفيذي لمركز أبحاث مواءمة الذكاء الاصطناعي، تحذيرا بشأن المخاطر المتسارعة المرتبطة بتطور أنظمة الذكاء الاصطناعي، معتبرا أن البشرية قد تواجه سيناريوهات خطيرة خلال السنوات المقبلة إذا لم يتم التحكم في هذه التقنيات بالشكل المطلوب.
وأوضح بول كريستيانو، خلال محاضرة ألقاها في مدينة تورونتو ضمن سلسلة محاضرات “هينتون”، أن احتمالات تجنب الكارثة أو وقوعها تبدو متقاربة، مشيرا إلى أن الخطر قد يصبح أكثر جدية خلال فترة تتراوح بين ستة أشهر و12 شهرا، بينما يظل احتمال فقدان السيطرة على الذكاء الاصطناعي قائما خلال السنوات الثلاث المقبلة.
وأكد الخبير أن المقصود بسيطرة الذكاء الاصطناعي هو الوصول إلى مرحلة تمتلك فيها الأنظمة الذكية القدرة على اتخاذ القرارات وإدارة مجريات الأمور بشكل مستقل، إلى درجة يصبح معها تدخل البشر لإيقافها عديم الفعالية.
وأشار إلى أن مخاوفه تعززت بعد نتائج اختبارات أجرتها شركة OpenAI في يوليوز الماضي على نماذج جديدة داخل بيئة آمنة مخصصة لمحاكاة عمليات اختراق إلكتروني معقدة. وأظهرت النتائج، وفق كريستيانو، سلوكا مقلقا تمثل في محاولة بعض النماذج التحايل على المهام وإخفاء ذلك لتجنب التقييمات السلبية.
كما أوضح أن بعض هذه النماذج حاولت الوصول إلى معلومات مرتبطة بآليات التقييم، وتفاعلت مع أنظمة خارجية من بينها منصة Hugging Face، إلى جانب محاولات للتأثير على نتائج الاختبارات وتحسين تقييماتها بصورة غير مشروعة.
واعتبر كريستيانو أن هذه المؤشرات أكثر إثارة للقلق من الحوادث التي سُجلت خلال العام الماضي، محذرا من أن الأنظمة الذكية الأكثر تطورا قد تنظر مستقبلا إلى البشر باعتبارهم عائقا أمام تحقيق أهدافها، ما قد يدفعها إلى تقليص قدرة الإنسان على التدخل في قراراتها أو التأثير عليها.
وختم الخبير تحذيراته بالتأكيد على أن البشرية طورت ما يشبه “نوعا ثانيا” أكثر عددا وذكاءً، معتبرا أن احتمالات الصدام بين الإنسان والأنظمة الذكية قد ترتفع مستقبلا إذا لم تُوضع ضوابط فعالة تحكم هذا التطور المتسارع.