ما الذي حدث؟

يدعو قادة أبحاث مرتبطون بعدة شركات من أبرز شركات الذكاء الاصطناعي في العالم إلى مزيد من التدقيق في أنظمة الذكاء الاصطناعي ذاتي التحسين وأبحاث الذكاء الاصطناعي المؤتمتة. وأفادت The Wall Street Journal بأن باحثين من OpenAI وAnthropic وMeta Platforms وMicrosoft يطلبون من صانعي السياسات التحقيق في مدى أتمتة شركاتهم لأبحاث الذكاء الاصطناعي.

وُصفت هذه المخاوف في ورقة بحثية نُشرت يوم الاثنين. ولا تقدم التقارير الموثوقة عنوان الورقة أو جهة نشرها أو قائمة مؤلفيها الكاملة أو منهجيتها أو تعريفًا تقنيًا يحدد متى تتحول الأبحاث المدعومة بالذكاء الاصطناعي إلى ذكاء اصطناعي ذاتي التحسين. لكنها تحدد مخاوف مشتركة، مفادها أن أنظمة الذكاء الاصطناعي قد تساعد على نحو متزايد في أتمتة العمل المستخدم لإنشاء أنظمة ذكاء اصطناعي أكثر قدرة.

ومن بين الباحثين المذكورين كبير العلماء في OpenAI، جاكوب باتشوكي، والمؤسس المشارك لـ Anthropic، جاك كلارك، وكبير المسؤولين العلميين في Microsoft، إريك هورفيتز، ونائبة رئيس أبحاث الذكاء الاصطناعي في Meta، دون سونغ. وأفادت Bloomberg بأن أكثر من ٢٠ من قادة وباحثي الذكاء الاصطناعي عبّروا عن مخاوفهم في الورقة. وتكتسب هذه الانتماءات أهمية لأن التحذير صدر عن أشخاص مرتبطين بشركات تشارك مباشرة في تطوير الذكاء الاصطناعي المتقدم، وليس عن مراقبين لا صلة لهم بعملية البحث.

يصف المؤلفون احتمالًا أطلقوا عليه «انفجار الذكاء». وضمن السياق الذي أوردته التقارير، يشير هذا المصطلح إلى سيناريو تختصر فيه أبحاث الذكاء الاصطناعي المؤتمتة سنوات من التقدم إلى أشهر أو أقل، وتتقدم بوتيرة أسرع من قدرة البشر على فهمها. وتعرض المصادر ذلك باعتباره خطرًا أو احتمالًا، لا حدثًا مؤكدًا. ولا توجد أدلة موثوقة، ضمن السياق المتاح، على وقوع انفجار ذكاء أو قرب وقوعه.

الحقائق الموثقة في لمحة

المصادر: The Wall Street Journal وBloomberg.

لماذا يهم الإشراف على الذكاء الاصطناعي ذاتي التحسين؟

تكمن أهمية هذا التحذير في موضوع الإشراف نفسه. فجزء كبير من النقاش العام حول حوكمة الذكاء الاصطناعي يركز على الأنظمة التي يستخدمها الناس مباشرة، مثل روبوتات المحادثة ومولّدات الصور ومساعدات البرمجة وغيرها من المنتجات. أما الورقة التي تناولتها التقارير، فتركز على طبقة مختلفة: عملية البحث التي تنتج أنظمة الذكاء الاصطناعي المستقبلية.

ولا تعني الأبحاث المدعومة بالذكاء الاصطناعي تلقائيًا أن نظامًا للذكاء الاصطناعي يطوّر نفسه باستقلالية. فقد يستخدم فريق بحثي الذكاء الاصطناعي لأداء مهمة محدودة، بينما يواصل البشر اختيار السؤال البحثي ومراجعة المخرجات وإجراء التجربة وتحديد الخطوة التالية. ولا تشرح المصادر الموثوقة كيفية توزيع الشركات المعنية لهذه المسؤوليات، كما لا تحدد كميًا مدى الأتمتة داخل أي منها.

وتظهر المخاوف المتعلقة بالسياسات عندما تتحول المساعدة إلى حلقة بحثية مترابطة. فإذا ساعدت أنظمة الذكاء الاصطناعي في توليد الأفكار التقنية وتنفيذ التجارب وتقييم النتائج واقتراح أعمال المتابعة، فقد تؤثر في مراحل متعددة من تطوير الذكاء الاصطناعي. ولا تؤكد التقارير المتاحة وجود هذه الحلقة الكاملة في أي شركة محددة. لكنها تشرح سبب اعتقاد الباحثين بضرورة أن يفحص صانعو السياسات ما إذا كانت هذه الأتمتة تتطور، ومدى سرعتها في تغيير وتيرة التقدم.

ويكتسب هذا التمييز أهمية خاصة في التغطية الدقيقة. فمن الخطأ وصف كل مساعد برمجي للذكاء الاصطناعي بأنه نظام ذكاء اصطناعي ذاتي التحسين. كما سيكون من السابق لأوانه الادعاء بأن أي شركة أنشأت آلة يمكنها إعادة تصميم نفسها باستقلالية ومن دون تدخل بشري. وتتمثل القضية الموثقة في نطاق أضيق: يطلب باحثون بارزون التدقيق في مدى أتمتة الذكاء الاصطناعي لأبحاث الذكاء الاصطناعي.

ماذا يعني «انفجار الذكاء» هنا؟

«انفجار الذكاء» هو المصطلح الذي أوردته التقارير عن الورقة لوصف تسارع محتمل في تقدم الذكاء الاصطناعي. وتصف المصادر الآلية بعبارات عامة: فإذا ساعدت أنظمة الذكاء الاصطناعي في أتمتة العمل المتعلق بأبحاث الذكاء الاصطناعي المستقبلية وتطويرها، فقد يرتفع معدل التحسن بشكل حاد. وقد يحدث التقدم الذي كان يتطلب سنوات خلال أشهر أو أقل، وفقًا لمخاوف المؤلفين.

ولا ينبغي التعامل مع هذا المصطلح باعتباره توقعًا بجدول زمني مؤكد. فالسياق الموثق لا يتضمن تقديرًا للاحتمال أو تاريخًا أو عتبة للقدرات أو دليلًا على بدء هذا السيناريو. كما لا يذكر أن الباحثين يتفقون على مسار تقني واحد. والتفسير المسؤول هو أن المؤلفين يريدون من صانعي السياسات التحقيق في تغير محتمل ومهم في سرعة تطوير الذكاء الاصطناعي، قبل أن تصبح عواقبه صعبة الإدارة.

وتحتل مشكلة الفهم البشري موقعًا محوريًا في هذا التحذير. فعندما تتحرك الأبحاث بسرعة أكبر، قد يتاح للبشر وقت أقل لمراجعة الافتراضات أو إعادة إنتاج النتائج أو تقييم الآثار الأوسع لقدرة جديدة. وهذا لا يثبت أن التقدم السريع غير آمن في كل الحالات، لكنه يعني أن القدرة على فهم التطوير وتقييمه أصبحت جزءًا من تحدي الإشراف.

وبالنسبة إلى العاملين في البرمجيات والأبحاث وتقنيات المؤسسات، يتمثل التمييز العملي في الفرق بين استخدام الذكاء الاصطناعي لإنجاز مهمة منفصلة، والسماح لمخرجاته بتشكيل سلسلة متكررة من قرارات البحث. ولا تفرض المصادر الموثوقة نظام تحكم محددًا، لكنها تجعل هذا التمييز ذا صلة بالنقاش المتعلق بالسياسات.

من الذي يطالب بالتدقيق؟

يمثل المشاركون المذكورون أربع مؤسسات كبرى. ويعرّف The Wall Street Journal جاكوب باتشوكي بأنه كبير العلماء في OpenAI. كما يعرّف جاك كلارك بأنه أحد المؤسسين المشاركين لـ Anthropic، وإريك هورفيتز بأنه كبير المسؤولين العلميين في Microsoft، ودون سونغ بأنها نائبة رئيس أبحاث الذكاء الاصطناعي في Meta.

يوسّع تقرير Bloomberg الصورة إلى ما يتجاوز هذه الأسماء الأربعة، إذ يذكر أن أكثر من ٢٠ من قادة وباحثي الذكاء الاصطناعي عبّروا عن مخاوفهم في الورقة. ولا يقدم السياق الموثق قائمة كاملة بالمساهمين، لذلك لا تستنتج هذه المقالة أسماء أو انتماءات إضافية.

ويمنح تكوين المجموعة التحذير وزنًا مؤسسيًا، لكنه لا يحسم الأسئلة التقنية أو المتعلقة بالسياسات. فالشركات المذكورة في التقارير من أبرز المشاركين في أبحاث الذكاء الاصطناعي، بينما لا يكشف السياق المتاح مدى الأتمتة داخلها. ومن ثم، فإن طلب الباحثين هو أيضًا طلب لمزيد من الوضوح في مجال يصعب على الأطراف الخارجية قياسه.

Mirendil والسوق الناشئة للذكاء الاصطناعي ذاتي التحسين

يقدم تقرير منفصل لـ Bloomberg تطورًا تجاريًا ذا صلة. فقد كانت Mirendil، وهي شركة ناشئة في مجال الذكاء الاصطناعي أسسها باحثون سابقون في Anthropic، تجري محادثات، بحسب التقارير، لجمع جولة تمويل جديدة عند تقييم يبلغ ٥ مليارات دولار. ووفقًا لأشخاص مطلعين على الأمر، قد توفر المناقشات ما يصل إلى مليار دولار من رأس المال الجديد. وأفادت Bloomberg بأن Kleiner Perkins كانت تجري محادثات لقيادة التمويل، وأن Andreessen Horowitz كانت تناقش أيضًا استثمارًا محتملًا.

وتصف هذه الأرقام مناقشات تمويل أُبلغ عنها، لا صفقة مكتملة. كما أفادت Bloomberg بأن المناقشات جاءت بعد ثلاثة أشهر من قيادة Kleiner Perkins وAndreessen Horowitz جولة تمويل أولية بقيمة ٢٠٠ مليون دولار لصالح Mirendil، ما قيّم الشركة الناشئة بمليار دولار في أول تمويل لها.

ولا يثبت تقرير Mirendil أن الشركة الناشئة طورت نظام ذكاء اصطناعي ذاتي التحسين، كما لا يقدم السياق الموثق مواصفات للمنتج أو تفاصيل عن النموذج أو معلومات عن النشر. وتتمثل صلته بهذه القصة في نطاق أضيق: فهو يوضح أن الذكاء الاصطناعي ذاتي التحسين يتحول أيضًا إلى مجال مستقل يحظى باهتمام الشركات الناشئة والمستثمرين. ويجعل هذا الاهتمام التجاري التعريفات الواضحة والإشراف الدقيق أكثر أهمية، لا أقل.

ولا ينبغي الخلط بين مناقشات التقييم والتحقق التقني. فقد تشير جولة التمويل إلى اهتمام المستثمرين، لكنها لا تثبت نجاح نهج بحثي أو استقلالية نظام أو بدء انفجار ذكاء. ولا تدعم التقارير المتاحة هذه الاستنتاجات.

أسئلة السياسات التي تثيرها التقارير

يتمثل السؤال المباشر في كيفية تحديد صانعي السياسات لمعنى «أبحاث الذكاء الاصطناعي المؤتمتة» عمليًا. ولا تحدد المصادر الموثوقة قانونًا مقترحًا أو جهة تنظيمية أو معيارًا للإبلاغ أو تحقيقًا حكوميًا رسميًا. لكنها تثبت أن الباحثين يطلبون من صانعي السياسات التدقيق في درجة الأتمتة داخل الشركات التي تطور ذكاءً اصطناعيًا متقدمًا.

ويشير هذا الطلب إلى أسئلة عدة تستحق مزيدًا من البحث: ما أجزاء أبحاث الذكاء الاصطناعي التي تجري أتمتتها؟ وما حجم تأثير أنظمة الذكاء الاصطناعي في الخيارات التجريبية؟ وما المراجعة البشرية التي لا تزال قائمة في العملية؟ وكيف تحدد المؤسسات ما إذا كان التحسن الظاهر يعكس مكسبًا حقيقيًا في القدرات؟ وما الأدلة التي يجري الاحتفاظ بها بحيث يمكن فحص قرار بحثي في وقت لاحق؟

هذه أسئلة مستخلصة تحريريًا، وليست تفاصيل كشفت عنها المصادر. وهي مفيدة لأن التقارير تحدد مشكلة حوكمة من دون تقديم إطار قياس عام. وستحتاج أي مناقشة مستقبلية للسياسات إلى تجنب التعامل مع وصف «ذاتي التحسين» باعتباره بديلًا عن شرح القدرات وسير العمل الفعليين.

وينبغي أن يميز الإشراف أيضًا بين نظام يساعد الباحث ونظام يوجّه عملية البحث فعليًا وبصورة مؤثرة. ولا توضح التقارير الموثوقة أين يقع هذا الخط حاليًا، لكنها تشرح سبب اعتقاد الباحثين بأن هذا الخط يستحق الاهتمام.

ما هو معروف وما لم يُثبت؟

المصادر والمنهجية التحريرية

تستند هذه المقالة إلى تقارير The Wall Street Journal وBloomberg الواردة في السياق الموثق. ويحدد تقرير The Wall Street Journal طلب السياسات والشركات المشاركة والباحثين المذكورين والمخاوف من أن تؤدي أبحاث الذكاء الاصطناعي المؤتمتة إلى اختصار التقدم إلى أشهر أو أقل. أما Bloomberg، فتفيد بأن أكثر من ٢٠ من قادة وباحثي الذكاء الاصطناعي عبّروا عن مخاوفهم، كما تنقل بصورة منفصلة مناقشات التمويل الخاصة بـ Mirendil.

أُزيلت الادعاءات غير الواردة في هذه المصادر، بما في ذلك الإشارات غير ذات الصلة إلى التعليم وUNESCO في المسودة السابقة. ويُشار إلى التفسير بوصفه تحليلًا تحريريًا من بوابة الذكاء الاصطناعي. ولا تتعامل GateOfAI, LLC، التي تدير بوابة الذكاء الاصطناعي، مع مناقشات التمويل المنقولة باعتبارها صفقات مكتملة أو مع السيناريوهات المحتملة باعتبارها أحداثًا تقنية مؤكدة.