FlashProve هو نظام مفتوح المصدر من Anthropic، طوّرته الشركة بالتعاون مع جهات أكاديمية، ويهدف إلى استخدام إثباتات تشفيرية للتحقق مما إذا كانت استجابة AI قد صدرت عن نموذج محدد وملتزم. إليكم ما تؤكده التغطية المتاحة، وما لا يزال يتعين على المشترين والمطورين التحقق منه.
نظرة سريعة
| المطور | Anthropic، بالتعاون مع جهات أكاديمية، وفقاً للتغطية المتاحة |
| الموقع الإلكتروني | Anthropic.com (موقع المطور؛ ولم تحدد المصادر المقدمة صفحة مخصصة لمنتج FlashProve) |
| الأسعار | نظام مفتوح المصدر؛ لا تذكر المصادر أي أسعار تجارية أو معلومات عن الخطط |
| نوع AI | نظام للاستدلال القابل للإثبات تشفيرياً والتحقق من هوية النموذج |
| الأفضل لـ | الباحثين ومزودي AI والمطورين والمؤسسات التي تقيّم الادعاءات المتعلقة بالنموذج الذي أنتج مخرجاً معيناً |
| منهجية الإثبات المعلنة | إثباتات تشفيرية، وصفتها التغطية المقدمة بأنها zkSNARKs |
| تاريخ المراجعة | ٩ نوفمبر ٢٠٢٦ |
ما هو FlashProve؟
FlashProve هو نظام مفتوح المصدر ذكرت TechCrunch أنه يمثل جهود Anthropic لإثبات هوية نماذج AI. وتتمثل فكرته الأساسية في «الاستدلال القابل للإثبات»، أي إنتاج إثبات تشفيري يتيح للمستلم التحقق من أن استجابة ما صدرت عن نموذج محدد وملتزم. بعبارة أخرى، لا يتمثل الهدف في تصنيف النص على أنه مُنشأ بواسطة AI فحسب، بل في تقديم دليل يربط المخرج بالنموذج الذي يُفترض أنه أنشأه.
هذا الفرق مهم. فالتسمية العادية للمنتج أو تصريح مزود الخدمة يطلب من المستخدمين الثقة بالجهة التي تقدم الادعاء. أما الإثبات التشفيري فيُفترض أن يمنح جهة التحقق وسيلة لفحص الادعاء رياضياً. وتقارن التغطية المقدمة هذه الفكرة بتوقيعات البريد الإلكتروني التشفيرية، التي قد تساعد المستلم على التحقق من أن الرسالة جاءت من المرسل الذي تدعيه. يشرح هذا التشبيه مشكلة الثقة على نطاق واسع، لكنه لا يعني أن FlashProve يعمل تماماً مثل توقيع البريد الإلكتروني أو يتمتع بخصائص أمنية مطابقة له.
يصف ملخص أخبار DeepLearning.AI وتغطية TechCrunch النظام بأنه يستخدم zkSNARKs، وهي «براهين موجزة غير تفاعلية للمعرفة عديمة المعرفة»، لإثبات أن نموذجاً ما أنتج مخرجاً محدداً. ولا تقدم المصادر مواصفات تقنية كاملة أو شرحاً للكود أو نتائج معيارية أو دليلاً للنشر. لذلك، يصف هذا المقال التصميم المعلن والتطبيقات المستهدفة، بدلاً من تأكيد تفاصيل تنفيذية لم تُقدم.
يعالج مشروع Anthropic، وفقاً لما أُعلن عنه، مشكلة عملية تتمثل في أن مستخدم خدمة AI قد لا يتمكن من معرفة النموذج الذي عالج طلبه فعلياً. فقد تدعي خدمة ما استخدام نموذج معين، بينما توجه الطلبات إلى نموذج آخر. ويهدف FlashProve إلى جعل ادعاءات هوية النموذج أكثر قابلية للتحقق، بما في ذلك الحالات التي تكون فيها المؤسسة المشغلة للنموذج نفسها هي الجهة التي تقدم الادعاء. هذا هو الوعد الأساسي الوارد في المصادر المتاحة، وليس ضماناً بأن كل عملية نشر أو كل نموذج يمكن التحقق منه بشكل مستقل في الوقت الحالي.
ما الذي يُفترض أن يثبته FlashProve؟
العبارة الأساسية في التغطية هي «نموذج محدد وملتزم». وهذا يشير إلى سؤال تحقق أضيق من معرفة ما إذا كانت الإجابة صحيحة أو آمنة أو عالية الجودة: هل جاءت الاستجابة من النموذج الذي يحدده الادعاء؟ هوية النموذج وصحة الإجابة خاصيتان مختلفتان. فإثبات المصدر، إذا أُنشئ وتحقق منه بشكل صحيح وفقاً لافتراضات النظام، لا يثبت وحده أن الاستجابة دقيقة أو غير متحيزة أو آمنة أو مناسبة لاستخدام معين.
هذا النطاق مهم لفرق المنتجات. فإذا تلقى المستخدم إجابة خاطئة، فلن يجعل إثبات هوية النموذج الإجابة صحيحة. وإذا احتاجت مؤسسة إلى إثبات أن نموذجاً اتبع سياسة معينة، فلن يثبت ادعاء الهوية وحده تطبيق تلك السياسة. وتدعم التغطية حالة استخدام تتعلق بالهوية والمصدر، لكنها لا تدعي أن FlashProve يعتمد جودة المحتوى المُنشأ أو يقدم تدقيقاً كاملاً لسير عمل AI.
كما لا ينبغي التعامل مع مصطلح «الإثبات التشفيري» على أنه بديل عن فحص الافتراضات التي يقوم عليها النظام. إذ يجب ربط نظام الإثبات بالتزام خاص بنموذج وبعملية تحقق. وسيحتاج المشترون والمقيّمون التقنيون إلى وثائق تشرح ما الذي يجري الالتزام به، وما الأدلة التي يتم إنتاجها، ومن يستطيع التحقق منها، وما الذي يغطيه الإثبات وما الذي لا يغطيه. ولا تجيب المصادر المقدمة عن جميع هذه الأسئلة التنفيذية.
حالات الاستخدام المحتملة التي أُبلغ عنها لـ FlashProve
التحقق من استخدام الخدمة للنموذج المعلن
أحد الدوافع التي وصفتها TechCrunch هو مساعدة المستخدمين على اكتشاف احتمال وجود اختلاف بين ادعاء الخدمة بشأن النموذج والنموذج الذي أنتج الاستجابة فعلياً. ويورد التقرير أمثلة قد يستبدل فيها مزود الخدمة نموذجاً أرخص سراً لخفض التكاليف، أو يستخدم نموذجاً أغلى لتضخيم ادعاءات الأداء. ويهدف FlashProve إلى جعل مثل هذه الادعاءات أكثر مقاومة للانتحال، بما في ذلك عندما يكون مشغل الخدمة نفسه مصدر الادعاء.
بالنسبة إلى عميل مؤسسي، تبدو القيمة المحتملة واضحة: فقد يؤثر اختيار النموذج في جودة المنتج والتكلفة والمخاطر والالتزامات التعاقدية. وإذا وافقت مؤسسة على استخدام نموذج محدد لسير عمل معين، فإن القدرة على التحقق من هوية النموذج المرتبطة بمخرج ما قد تساعدها على تقييم مدى دعم الادعاء بالأدلة. إلا أن المصادر المتاحة لا تثبت أن FlashProve منشور بالفعل في خدمات تجارية، ولا تحدد كيفية دمجه في مسار طلبات مزود الخدمة.
دعم ادعاءات الجهات الخارجية بشأن الأعمال المدعومة بـ AI
تصف التغطية أيضاً إمكانية التحقق من الادعاءات التي تقدمها جهات خارجية. ومن أمثلتها ادعاء مطور أن مكتبة برمجية خضعت للفحص بحثاً عن الثغرات بواسطة نموذج متقدم للأمن السيبراني، أو ادعاء شركة أن خطة أعمالها راجعها نموذج مناسب. في هذه الحالات، لا يقتصر السؤال على ما يستطيع النموذج فعله، بل يتعلق أيضاً بما إذا كان النموذج المذكور قد شارك فعلاً في المهمة.
هذه الأمثلة حالات استخدام نوقشت في التغطية، وليست عمليات نشر مؤكدة لدى عملاء. وقبل الاعتماد على مثل هذه الأدلة، سيحتاج المشتري إلى فهم الادعاء المحدد الذي يجري إثباته. هل يثبت أن نموذجاً معيناً أنشأ إجابة واحدة، أم أن النموذج أنجز مهمة كاملة متعددة الخطوات؟ وهل يغطي هوية النموذج فقط، أم يشمل أيضاً المدخلات والأدوات المستخدمة؟ لا يحدد السياق المقدم هذه الحدود. وينبغي للمؤسسات ألا توسع نطاق إثبات ضيق لمصدر النموذج إلى ادعاء أوسع بشأن إنجاز المهمة أو جودتها من دون وثائق إضافية.
البحث والمساءلة في AI
قد يجد الباحثون وفرق الحوكمة هذه المشكلة ذات صلة أيضاً. فعند تقييم أداء نموذج أو توثيق كيفية إنتاج قرار مدعوم بـ AI، قد تكون معرفة النموذج المسؤول مفيدة. ويمكن أن يساهم الهدف المعلن لـ FlashProve في تقديم أدلة بشأن هذا السؤال. لكنه ينبغي أن يُعامل باعتباره مكوناً محتملاً ضمن عملية تقييم أوسع، لا حلاً كاملاً للحوكمة أو السلامة أو التدقيق.
وبالنسبة إلى الفرق في الولايات المتحدة والشرق الأوسط ومناطق أخرى، ينطبق مبدأ التقييم نفسه: يجب التمييز بين ما يثبته النظام وما ترغب المؤسسة في قوله عنه. ولا تثبت المصادر التوافر الإقليمي أو الاستضافة المحلية أو الدعم الخاص بدول مجلس التعاون الخليجي أو الامتثال لمتطلبات أي ولاية قضائية بعينها. وينبغي للمشترين تأكيد هذه المسائل مباشرة، بدلاً من استنتاجها من وصف النظام بأنه مفتوح المصدر.
ما الذي يميز FlashProve؟
تتمثل نقطة التميز المعلنة في استخدام إثباتات تشفيرية لهوية النموذج، بدلاً من الاعتماد فقط على تأكيد عادي من مزود الخدمة بشأن النموذج الذي أنتج الإجابة. والطموح هو تمكين جهة التحقق من فحص ادعاء يتعلق بمخرج معين، حتى عندما لا تكتفي بتصديق كلام المشغل. ويساعد تشبيه التقرير بتوقيع البريد الإلكتروني في شرح الهدف: إرفاق دليل يجعل المصدر المعلن أكثر قابلية للفحص.
لا ينبغي الخلط بين ذلك وبين مقارنة موثقة مع أدوات أخرى. فالمصادر المقدمة لا توفر تحليلاً تنافسياً أو تدقيقاً أمنياً أو نتائج معيارية مقارنة أو مصفوفة للميزات. كما لا تثبت ما إذا كان FlashProve يدعم أداة تحقق مستضافة أو API عامة أو SDK للمطورين أو عائلات نماذج محددة أو ترتيبات نشر معينة. وهذه أسئلة مهمة للمنتج، لكن الأدلة المتاحة لا تحسمها.
ويكتسب وصف النظام بأنه مفتوح المصدر أهمية لأنه يشير إلى أن المشروع لا يُقدم حصراً كمنتج تجاري مغلق. مع ذلك، لا تجيب عبارة «مفتوح المصدر» عن جميع أسئلة الشراء. فالمواد المقدمة لا تحدد المستودع أو ترخيص البرنامج أو حالة الإصدار أو سياسة الصيانة أو البيئات المدعومة أو مدى توافر نظام كامل يمكن تشغيله. وينبغي للمطورين فحص المواد الأساسية للمشروع قبل افتراض أن التنفيذ جاهز للاستخدام في بيئة الإنتاج أو أنه يتوافق مع متطلبات الترخيص والتشغيل لديهم.
ما الذي ينبغي للمطورين والمشترين التحقق منه؟
FlashProve مشروع تقني ناشئ وفق الأدلة المتاحة هنا، لذلك يبدأ التقييم المنطقي من المواد الأساسية للمشروع، لا من افتراض الشراء. تحققوا من الإعلان الرسمي للمشروع والمستودع، إن وُجدا، وحددوا حالة الإصدار بدقة، واقرؤوا الوثائق التقنية قبل دمج النظام. تثبت المصادر المقدمة الهدف العام للمشروع ومنهجية الإثبات المعلنة، لكنها لا توفر تفاصيل تنفيذية كافية لكتابة دليل دمج موثوق.
- نطاق الادعاء: حدد ما إذا كان الإثبات يربط مخرجاً بالتزام خاص بنموذج محدد، وما الحقائق الأخرى التي لا يثبتها.
- عملية التحقق: اعرف كيف يفحص المستلم الإثبات، وما البرامج أو افتراضات الثقة التي يتطلبها هذا الفحص.
- تغطية النماذج: تأكد من النماذج وإعدادات التشغيل المدعومة؛ فالتغطية المقدمة لا تذكرها.
- نضج المشروع: تحقق من حالة الإصدار والصيانة والوثائق والتنفيذ المتاح قبل التخطيط للاستخدام في بيئة الإنتاج.
- معالجة البيانات: راجع المدخلات أو المخرجات أو البيانات الوصفية المشاركة في إنشاء الأدلة والتحقق منها. ولا تحدد المصادر المقدمة سياسات الاحتفاظ أو المعالجة.
- الملاءمة التشغيلية: أكد الأداء ومتطلبات الموارد وخيارات النشر واحتياجات الدمج من خلال الوثائق الأساسية والاختبارات. ولا تتضمن المعلومات الموثقة أي أرقام من هذا النوع.
- الشروط التجارية والقانونية: تحقق من ترخيص البرنامج وأي شروط مرتبطة بالخدمات. فكون النظام مفتوح المصدر لا يثبت بحد ذاته وجود ترخيص معين أو خدمة مستضافة مجانية.
ينبغي أن يستخدم إثبات المفهوم المسؤول سؤالاً محدد النطاق وبيانات اختبار غير حساسة إلى أن تتم مراجعة وثائق المشروع. سجّل ما يثبته الاختبار وما لا يثبته. فعلى سبيل المثال، لا يعني نجاح التحقق في بيئة اختبار تلقائياً أن كل مخرج في سير عمل الإنتاج مشمول، أو أن ادعاء مزود الخدمة بشأن المهمة بأكملها صحيح، أو أن الإجابة صحيحة.
الأسعار والتوافر
تصف التغطية المقدمة FlashProve بأنه مفتوح المصدر، لكنها لا تذكر سعراً تجارياً أو خطة اشتراك أو سعراً لخدمة مستضافة أو شروطاً للدعم المدفوع. كما لا تحدد موقعاً مخصصاً للمنتج أو توفر معلومات كافية لتأكيد التوافر الحالي ونضج الإصدار الكامل. لذلك، ينبغي للقراء التعامل مع حالة الأسعار باعتبارها غير معلنة، وعدم افتراض وجود منتج مستضاف مجاني أو خطة مؤسسية مدفوعة أو نموذج نشر معين.
بالنسبة إلى المطورين، قد يتيح توافر النظام كمشروع مفتوح المصدر تقييمه من دون التعامل معه أولاً كعملية شراء تقليدية قائمة على الاشتراك، لكن التكلفة الفعلية لاعتماد أي نظام قد تشمل وقت الهندسة والبنية التحتية والاختبارات والصيانة المستمرة. ويتوقف انطباق هذه التكاليف هنا على التنفيذ المنشور ومنهجية النشر، وهما غير مفصلين في المصادر. أما المشترون من المؤسسات، فعليهم طلب شروط واضحة لأي دعم أو استضافة أو خدمات تجارية قبل إدراجها في الميزانية.
هل يستحق FlashProve التقييم؟ قد يكون مناسباً للفرق التي تحتاج إلى أدلة أقوى بشأن هوية النموذج، وتستعد لتقييم مشروع تقني مبكر. أما بالنسبة إلى المؤسسات التي تحتاج إلى منتج تجاري جاهز للنشر، مع عمليات دمج موثقة ومستويات خدمة ومعلومات امتثال وأسعار، فالحكم أقل وضوحاً؛ إذ لا تثبت المصادر المتاحة هذه الخصائص. والخطوة التالية الصحيحة هي فحص المواد الأساسية لـ Anthropic والمشروع مفتوح المصدر نفسه، بدلاً من استنتاج الجاهزية من الفكرة وحدها.
القيود والأسئلة المفتوحة
أهم قيود المعلومات العامة المتاحة لهذه المراجعة هو نطاقها. فالتقارير تصف غرض FlashProve واتجاهه التشفيري، لكنها لا توفر مواد كافية للتحقق من أداء التنفيذ أو النماذج المدعومة أو المتطلبات التشغيلية أو النشر الواقعي. ولا يتضمن السياق المقدم أرقاماً موثقة لمعدل المعالجة أو زمن الاستجابة، أو قياسات للدقة، أو مراجع من العملاء، أو مستويات للأسعار، أو تفاصيل بشأن توافر الخدمة.
كما يتطلب التقييم الأمني أكثر من معرفة أن النظام يستخدم التشفير. إذ يحتاج المتبنون المحتملون إلى الوثائق التقنية للنظام لفهم افتراضات الثقة الدقيقة وأنماط الفشل. وتقول التغطية إن الهدف من الإثبات هو مقاومة محاولات إخفاء نموذج واستبداله بآخر، بما في ذلك من جانب المؤسسة التي تشغل النموذج. هذا هدف معلن، لكن هذه المراجعة لا تتضمن تدقيقاً مستقلاً أو نتائج اختبارات يمكن من خلالها تقييم مدى تحققه في ظروف هجوم محددة.
وهناك حد إضافي بين هوية النموذج ومصدر سير العمل الكامل. فقد يمر المخرج عبر نماذج أو أدوات متعددة أو تعديلات بشرية. ولا تشرح المصادر المقدمة كيفية تعامل FlashProve مع هذه الحالات، أو ما إذا كان يثبت الخطوات الوسيطة، أو ما إذا كان نطاقه يقتصر على استجابة نموذج محدد. وينبغي للفرق تجنب تقديم ادعاءات واسعة بشأن العملية بأكملها إلى أن تدعمها الوثائق الأساسية صراحة.
وأخيراً، قد تتغير حالة المشروع المعلنة. تعكس هذه النظرة العامة التغطية المقدمة والمتاحة في ٩ نوفمبر ٢٠٢٦. وقبل اتخاذ قرار تقني أو شرائي، تحقق من أحدث إعلان رسمي ومستودع وترخيص ووثائق. ولا تفترض أن مقالاً يتناول عملاً قيد التطوير يصف خدمة متاحة عموماً وجاهزة للاستخدام في بيئة الإنتاج.
الحكم النهائي
FlashProve مشروع مفتوح المصدر لافت من Anthropic، طوّرته الشركة بالتعاون مع جهات أكاديمية، ويهدف إلى استخدام إثباتات تشفيرية للتحقق من الادعاءات المتعلقة بالنموذج الذي أنتج مخرجاً معيناً. ويعالج استخدامه المعلن لـ zkSNARKs وتركيزه على هوية النموذج سؤالاً حقيقياً بشأن الثقة: هل استخدمت الخدمة النموذج الذي قالت إنها استخدمته؟ وتشمل التطبيقات المحتملة التحقق من استبدال النماذج، والتحقق من ادعاءات الجهات الخارجية بأن نموذجاً معيناً أنجز عملاً ما.
تدعم الأدلة وصف هدف FlashProve، لكنها لا تدعم التوصية به كمنتج جاهز للإنتاج أو منحه تقييماً للأداء. فالمصادر المقدمة لا تثبت نضج الإصدار أو الترخيص أو النماذج المدعومة أو متطلبات التنفيذ أو الأسعار أو الدعم التجاري أو الخصائص الأمنية المختبرة بشكل مستقل. وينبغي للفرق التقنية فحص المواد الأساسية للمشروع واختبار الادعاء المحدد الذي تحتاج إلى التحقق منه قبل الاعتماد عليه.
نقاط القوة المحتملة
- مشروع مفتوح المصدر من Anthropic، وفقاً للتقارير، بالتعاون مع جهات أكاديمية.
- يعالج مشكلة محددة تتمثل في التحقق من الادعاءات المتعلقة بالنموذج الذي أنتج مخرجاً معيناً.
- قد يساعد منهج الإثبات التشفيري في تقليل الاعتماد على تأكيد غير مدعوم من المشغل.
- تربط الأمثلة المعلنة بين الفكرة واستبدال النماذج وادعاءات الجهات الخارجية بشأن تنفيذ المهام.
القيود في الأدلة المتاحة
- لا تثبت المصادر المقدمة الجاهزية للإنتاج أو نضج الإصدار أو النماذج المدعومة.
- لا يتوفر دليل تنفيذ أو معايير أداء أو تدقيق أمني مستقل.
- لم يتم تحديد الترخيص أو الأسعار التجارية أو الخدمة المستضافة أو شروط الدعم.
- لم يثبت التوافر الإقليمي أو آلية معالجة البيانات أو معلومات الامتثال الخاصة بدول مجلس التعاون الخليجي.
ملاحظة تحريرية: تستند هذه النظرة العامة إلى التغطية المشار إليها والسياق الموثق المقدم. ويُنسب المحتوى التحريري لـ Gate of AI إلى فرق تحرير وهندسة بوابة الذكاء الاصطناعي.
المصادر
- TechCrunch: «Anthropic تعمل على نظام لإثبات هوية نماذج AI»، ٣ نوفمبر ٢٠٢٦.
- DeepLearning.AI: «يمكن لنماذج AI قراءة أوزان نماذج أخرى»، ملخص إخباري يذكر FlashProve والإثباتات التشفيرية.