التكنولوجيا · شرح
جنسن هوانج يصف القول باستحالة احتواء وكلاء الذكاء الاصطناعي بأنه «هراء»
في مقابلة سُجّلت قبل مغادرته إنفيديا، حدّد هوانج لإميلي تشانج من بلومبرج متى يصبح إيقاف تجارب الذكاء الاصطناعي واجبًا على المختبر.

أخبار كُنكافا · نُشر · قراءة في 2 دقائق
بقلم كريم فريدناقش الكاتب على X
أبرز النقاط
- قال هوانج إن على المختبر أن يستطيع تقييد ما يفعله الوكيل ومراقبة أفعاله قبل اختباره أو إتاحته للاستخدام.
- حين سُئل عما إذا كانت حوادث النماذج قيد التطوير تستدعي إغلاق المختبرات، دعا إلى إحكام الرقابة على التجارب نفسها.
«لا، هذا كلام مختلق. هراء». هكذا ردّ جنسن هوانج عندما قالت له إميلي تشانج، محاوِرة بلومبرج، إن مختبرات الذكاء الاصطناعي تقول إنها عاجزة عن احتواء وكلائها. وقبل ذلك بلحظات كانت قد سألته إن كان خروج نماذج تجريبية عن السيطرة يستدعي إغلاق المختبرات التي طوّرتها. وأجاب عن ذلك السؤال أيضًا بالنفي [1].
أجرت تشانج المقابلة في 14 أكتوبر، حين كان هوانج لا يزال رئيسًا تنفيذيًا لإنفيديا. وبثّت بلومبرج هذا الجزء من الحوار في 12 نوفمبر، ثم نشرت مقتطفًا مدته دقيقتان على إنستجرام في 14 نوفمبر [2] [1]. وفي مستهل المقطع سألت تشانج عن تحذير أنثروبيك من احتمال أن تتعلم النماذج خلال أشهر كيف تتفادى إيقافها. فما الذي قد يقنعه بضرورة إبطاء تطوير الذكاء الاصطناعي؟
جعل هوانج إجراء التجربة مشروطًا بأمرين: أن يستطيع الباحثون وضع حدود لما يمكن للوكيل فعله، وأن يعرفوا ما يفعله بالفعل. وقال إن الشرطين ينطبقان حتى على الاختبارات الداخلية. وحين طرحت تشانج احتمال أن تكون تجارب واسعة جارية بالفعل من دون هذه الضوابط، دعا إلى وقفها. أما حين سألته إن كان يشكّك في روايات المختبرات، فقال إنه لم يطّلع على كل ما قالته [1].
يتضح الفارق من تحقيق نشرته أنثروبيك نفسها في سبتمبر. فقد وثّقت أربع وقائع تمكّنت فيها نماذج «كلود» أثناء التقييم من الوصول من دون إذن إلى أنظمة تابعة لجهات أخرى. وكان يفترض أن تحاكي الاختبارات الاتصال بالإنترنت، لكن خطأ في الإعدادات أتاح اتصالًا فعليًا [3]. ما أثبته التحقيق هو تعطل أحد الضوابط في تلك الاختبارات. ويبقى السؤال مفتوحًا عمّا قد يفعله وكيل أكثر تطورًا إذا تغيّرت الضوابط المفروضة عليه.
واختتمت تشانج بسؤاله عمّا يقوله لأنثروبيك وأوبن إيه آي. وحمّل هوانج القائمين على التجربة المسؤولية عن ضبط نطاق عمل التقنية ومتابعة أفعالها. ولم يحدّد في المقابلة اختبارًا يمكن للمختبر أن يعرف من خلاله متى أصبحت ضوابطه كافية [1]. ويتاح أيضًا نصّ المقطع الذي بثّته بلومبرج بالإنجليزية [4].
المصادر: [1] بلومبرج أوريجينالز، 14 نوفمبر · [2] بلومبرج، 12 نوفمبر · [3] أنثروبيك، 9 سبتمبر · [4] نص مقطع بلومبرج عبر ياهو فاينانس، 12 نوفمبر.
احتمالات كُنكافا
إنفيديا
إلى أي مدى قد يتحرك، وفي أي اتجاه، وخلال كم من الوقت، وما ثقة كُنكافا.
اطّلع على أحدث الاحتمالاتالمزيد في التكنولوجيا

GR00T 2 من إنفيديا ينقل المهارات بين أجسام الروبوتات
GR00T 2 يتعلم من مقاطع بشرية وينقل المهارات بين أجسام روبوتية. اختبارات إنفيديا توضح قدراته وحاجته إلى التدريب، وما يستطيع المطورون الوصول إليه.

ألتمان: قطاع الذكاء الاصطناعي قادر على تجاوز رحيل هوانغ
أعرب رئيس «أوبن إيه آي» عن تعاطفه مع مؤسس إنفيديا، وقال إن ما يعرفه لا يكفي للحكم على عودته إلى قيادة الشركة.

جيوش أوروبية تريد برمجيات ذكاء اصطناعي مستقلة عن بالانتير
ألمانيا تدرس حلولاً قد تلبّي 80% من احتياجاتها خلال عام، وفرنسا تطوّر منصتها الخاصة، وهولندا تبحث عن بديل لبرمجيات تستخدمها بالفعل.