باحثون من OpenAI وAnthropic وMeta وMicrosoft يدعون إلى رقابة على أنظمة الذكاء الاصطناعي ذاتية التحسين

لماذا يهم هذا الآن؟

الجزء الأكثر أهمية في هذه القصة ليس أن باحثين بارزين في الذكاء الاصطناعي يعربون عن قلقهم. فقد حذّر الباحثون لسنوات من نمو القدرات وإساءة الاستخدام وضعف الحوكمة. لكن الجانب الاستثنائي هنا هو موضوع القلق نفسه: حلقة البحث ذاتها. يمكن أن تكون روبوتات المحادثة التي تصوغ نصوصًا أو تلخص مستندات أو تكتب دالة برمجية ذات قيمة، من دون أن تغيّر الوتيرة الأساسية للتطور التقني. أما النظام القادر على اقتراح اتجاهات بحثية، وإجراء التقييمات، ورصد نقاط الضعف، ومراجعة الأساليب، والمساعدة في إنتاج نسخ أقوى لاحقة، فيؤثر في سرعة تقدم التكنولوجيا الأساسية.

ويهم هذا التمييز من زاوية المنافسة. فعادة ما تُناقش المنافسة بين كبار مطوري الذكاء الاصطناعي من حيث جودة النماذج وتبني المستخدمين وقدرات الحوسبة والتوزيع المؤسسي. لكن البحث المؤتمت يضيف متغيرًا تنافسيًا آخر: سرعة قدرة المؤسسة على توليد التحسينات التقنية والتحقق منها. وإذا كان مختبر ما يستطيع تقليص الفاصل بين التجربة والنتيجة والتكرار، تصبح المقارنات التقليدية بين إصدارات النماذج المنفردة أقل دلالة. فلا تعود الميزة مقتصرة على جودة النظام الحالي، بل تشمل سرعة عملية بناء الأنظمة.

لذلك، فإن طلب الباحثين من صناع السياسات فحص درجة الأتمتة داخل شركاتهم أكثر جدية من دعوة عامة إلى «ذكاء اصطناعي مسؤول». فهو يعني ضمنًا أن صناع السياسات يحتاجون إلى رؤية واضحة لسير عمل تطوير القدرات، وليس للمنتجات اللاحقة فقط. ومن شأن نهج تنظيمي يركز فقط على روبوتات المحادثة المتاحة للعامة أو إفصاحات المستهلكين أو الحوادث بعد الإطلاق أن يفوّت نقطة الضغط الرئيسية. فعند وصول نظام كامل القدرات إلى الجمهور، قد تكون العمليات التي أنشأته قد مرت بالفعل عبر دورات عديدة من البحث والاختبار الداخليين.

التحليل التقني

لا يقدم السياق وصفًا للبنية أو التنفيذ للأنظمة المعنية، وسيكون من غير المسؤول اختلاق وصف من هذا النوع. ومع ذلك، يمكن صياغة مصدر القلق التقني بدقة على مستوى عام. فأبحاث الذكاء الاصطناعي ليست مهمة واحدة، بل سلسلة مهام قد تشمل العثور على المعلومات ذات الصلة، وتوليد الفرضيات، وكتابة الكود، وتهيئة التجارب، وتفسير النتائج، وتحديد الإخفاقات، واقتراح المراجعات، وتوثيق الاستنتاجات. وتصبح الأتمتة ذات أهمية استراتيجية عندما يشارك النظام في أجزاء متعددة من هذه السلسلة، وتغذي مخرجاته قرارات البحث اللاحقة بصورة موثوقة.

ينبغي كذلك استخدام مصطلح «ذاتي التحسين» بحذر. فهو لا يعني بالضرورة أن النظام يعيد كتابة كود المصدر الخاص به بصورة مستقلة ثم يصبح أكثر ذكاءً فورًا. ولا يثبت التقرير المتاح أن أي شركة نشرت نظامًا كهذا. ففي بيئة البحث، قد يصف التحسين الذاتي بدلًا من ذلك حلقة تغذية راجعة أوسع تساعد فيها أدوات الذكاء الاصطناعي الباحثين على تحسين عمليات البيانات أو تصميمات التجارب أو أساليب التقييم أو مسارات تطوير النماذج. ويتزايد القلق السياسي كلما انتقلت المراجعة البشرية من التحكم المباشر في كل خطوة إلى الإشراف الانتقائي على خط أنابيب مؤتمت بصورة متنامية.

القيد التقني الحاسم هو التقييم. فالنظام الذي ينتج أفكارًا مرشحة كثيرة ليس مفيدًا تلقائيًا؛ إذ يجب اختبار أفكاره وفق معايير موثوقة. والنظام القادر على كتابة الكود لا يدفع البحث تلقائيًا إلى الأمام؛ إذ يجب أن يعمل الكود، وأن تكون التجربة سليمة، وأن تُفسر النتيجة بشكل صحيح. والنظام الذي يبدو أنه يحسن نتيجة معيار قياس قد يستغل نقاط ضعف في المعيار بدلًا من تحسين القدرة العامة. ولهذا يكتسب تحذير الباحثين بشأن قدرة البشر على فهم التقدم أهميته. فالتكرار الأسرع لا يكون آمنًا إلا إذا واكبته سرعة التحقق وقابلية التفسير والحكم البشري.

بالنسبة للفرق التقنية، لا يتمثل السؤال العملي في ما إذا كانت تستخدم الذكاء الاصطناعي في البحث؛ إذ تستخدم منظمات كثيرة أدواته بالفعل للمساعدة في مهام محددة. السؤال هو ما إذا كان نظام الذكاء الاصطناعي يمتلك سلطة مؤثرة على تسلسل إجراءات البحث: اختيار ما يجب اختباره، وتحديد ما يُعد نجاحًا، واقتراح أعمال المتابعة، والتأثير في قرارات التنفيذ. وكل عملية تسليم إضافية تضاعف أهمية سجلات التدقيق والتقييم المستقل ومسارات التصعيد الواضحة والملكية البشرية للقرارات ذات العواقب. ولا تمثل أي من هذه الضمانات بديلًا عن قياس القدرات التقنية، لكن المنظمة قد لا تعرف من دونها متى تحولت أداة مساعدة إلى محرك مؤثر لمسار تطورها الخاص.

ما الخطوة التالية؟

تتمثل المهمة السياسية الفورية في أمر أضيق وأكثر عملية من مناقشة جميع السيناريوهات البعيدة المرتبطة بالذكاء الاصطناعي المتقدم. ينبغي لصناع السياسات طلب عرض أوضح لما يعنيه «البحث المؤتمت في الذكاء الاصطناعي» من الناحية التشغيلية: ما مهام البحث المؤتمتة، وكم مرة تؤثر الأنظمة في اختيارات التجارب، وما الذي يراجعه البشر، وما الأدلة التي يُحتفظ بها، وأين يعتقد الباحثون أن الأتمتة تُحدث تغييرات نوعية في سرعة تطوير القدرات. وتضع الورقة التي تناولتها The Wall Street Journal هذا الاستقصاء على جدول الأعمال، لكن السياق المتاح لا يشير إلى ما إذا كانت الحكومات قد بدأت تحقيقًا رسميًا أو إلى آلية الرقابة التي يفضلها المؤلفون.

ينبغي للمطورين الاستجابة عبر رسم خريطة لسير عمل أبحاثهم الداخلية قبل أن يصبح وصفه صعبًا. وينبغي للشركات التي تستخدم الذكاء الاصطناعي في الهندسة أو التحليلات أو العمل العلمي أن تفعل الأمر نفسه. والانضباط المفيد هنا هو تحديد المواضع التي تتحول فيها اقتراحات الذكاء الاصطناعي إلى قرارات، والمواضع التي تطلق فيها المخرجات المؤتمتة إجراءات مؤتمتة إضافية، والمواضع التي يمكن للمراجعين البشر فيها إيقاف العملية. ويجب على الباحثين مقاومة إغراء التعامل مع السرعة بوصفها مؤشرًا كاملًا للتقدم. فالتحذير هنا لا يقول إن الأتمتة غير مقبولة بطبيعتها، بل إن تسريع البحث من دون قياس وحوكمة قويين بالمستوى نفسه قد يحول عدم اليقين إلى نقطة عمياء مؤسسية.