تصادم مع اللائحة العامة لحماية البيانات: أداة تدريب الذكاء الاصطناعي للموظفين في Meta تحت التدقيق الأوروبي
خبير أنظمة الذكاء الاصطناعي
٢٠٢٦-٠٦-٠٢
© بوابة الذكاء الاصطناعي
أدى الإطلاق العدواني لمبادرة قدرات النماذج (MCI) في Meta إلى إثارة ردود فعل داخلية هائلة من الموظفين ومواجهة عالية المخاطر مع السلطات الأوروبية لحماية البيانات بسبب دورات تدريب الذكاء الاصطناعي غير التوافقية.
النقاط الرئيسية
- تقوم مبادرة قدرات النماذج (MCI) في Meta بتسجيل حركات الفأرة وضربات المفاتيح ولقطات الشاشة النشطة لموظفي الولايات المتحدة بشكل مستمر.
- تكشف وثائق الأسئلة والأجوبة المسربة أن MCI تسجل عن غير قصد الاتصالات من الموظفين الأوروبيين، مما يهدد الامتثال للائحة العامة لحماية البيانات.
- قدمت مجموعات حقوق الخصوصية (بما في ذلك NOYB) تحديات مبكرة، مشيرة إلى أن البيانات التي تم جمعها للتوظيف لا يمكن قانونياً إدخالها في نماذج الذكاء الاصطناعي المتقدمة.
- تشير الجدل إلى تحول كبير في مقاومة العمال ضد معاملة الموظفين المعرفيين كمزارع بيانات للشركات لاستبدالهم الآلي.
ما الذي حدث
تفاصيل الوثائق الداخلية المسربة في ٢٩ مايو ٢٠٢٦ تصاعدًا حادًا في التوترات داخل Meta Platforms بشأن نظام تلقي البيانات الإلزامي في مكان العمل المسمى مبادرة قدرات النماذج (MCI). تم نشر الأداة لتدريب وكلاء الذكاء الاصطناعي المستقلين من الجيل التالي في Meta، حيث تسجل بيانات سلوكية دقيقة للغاية عبر أكثر من ٢٠٠ تطبيق وموقع مختلف على أجهزة الكمبيوتر المخصصة للشركة.
بينما أكد قادة Meta، بما في ذلك المدير التقني أندرو بوسورث، أن البرنامج لا يحتوي على آلية “إلغاء الاشتراك” للمستخدمين على الأجهزة المملوكة للشركة، فقد أثار البرنامج رد فعل غاضب من الموظفين. وصف العمال Meta بأنها “مصنع استخراج بيانات الموظفين”، مع شكاوى الموظفين من أن التحميل المستمر لتسجيلات تيار التليمترية المضغوطة يستنزف حدود النطاق الترددي للإنترنت السكني بالكامل في غضون أيام.
ظهر الخطر القانوني الأساسي عبر إدخال في الأسئلة الشائعة الداخلية. اعترفت Meta صراحةً أنه إذا تفاعل موظف غير متتبع مقيم خارج الولايات المتحدة عبر الدردشة أو البريد الإلكتروني مع زميل أمريكي متتبع، يتم التقاط النص الكامل للتفاعل. نظرًا لأن Meta تفصل على الفور سجلات التليمترية المجمعة عن معرفات المستخدم، فإن الحذف الفردي المطلوب من قبل العمال الأوروبيين مستحيل – مما يخلق تصادمًا مباشرًا مع “حق النسيان” الصارم في الاتحاد الأوروبي.
الأرقام
| المقياس | التفاصيل | المصدر |
|---|---|---|
| 📅 إطلاق النظام | أبريل ٢٠٢٦ (تصاعد في ٢ يونيو ٢٠٢٦) | رويترز / تك تايمز |
| 🏢 هدف تتبع الموضوع | موظفو الشركات المقيمون في الولايات المتحدة (لا يوجد خيار إلغاء الاشتراك) | مذكرات داخلية لـ Meta |
| 🤖 النطاق التقني | ضربات المفاتيح، بيانات الحافظة، مسارات واجهة المستخدم، دورات الحالة النشطة | تحليل السجلات بمساعدة Claude |
| ⚖️ العقبة القانونية | قيود الغرض من اللائحة العامة لحماية البيانات وطلبات محو البيانات | موجز قانوني لـ NOYB |
| 🌍 القيادة التنظيمية | لجنة حماية البيانات الأيرلندية (DPC) | بيان المتحدث الرسمي |
لماذا يهم هذا الآن
أجبرت السباق المؤسسي نحو تدفقات العمل الوكيلية شركات التكنولوجيا على البحث عن “سياق تفكير” بشري عالي الجودة. لم تعد عمليات الزحف البسيطة على الإنترنت العامة كافية لتدريب الذكاء الاصطناعي ليعمل كمساعدين مؤسسيين فعالين؛ تحتاج النماذج إلى مراقبة كيفية تنقل المشغلين البشريين في تغييرات الهندسة المعقدة، وحل نزاعات الفواتير مع العملاء، وهيكلة قواعد البيانات الداخلية.
تسلط عملية الإطلاق العدوانية لـ Meta الضوء على مفارقة تقنية حديثة ضخمة: تحاول الشركات جمع بيانات تتبع سلوكية غازية للغاية داخليًا، بينما تشدد في الوقت نفسه معايير الامتثال للبيانات العامة. إذا حكمت لجنة حماية البيانات الأيرلندية أو المحاكم الأوروبية بأن المحادثات بين الموظفين لا يمكن إدخالها قانونيًا في التعلم الآلي دون موافقة صريحة وقابلة للإلغاء، فقد يؤدي ذلك إلى إبطاء سرعة تطوير وكلاء الذكاء الاصطناعي المؤسسيين على مستوى العالم بشكل كبير.
التفصيل التقني
كشف تحليل تشخيصي مستقل لمخرجات سجلات MCI – تم إجراؤه بواسطة مهندس برمجيات في Meta بمساعدة وكيل Claude من Anthropic – أن MCI ليست نصًا في مساحة المستخدم المعزولة. بدلاً من ذلك، تم دمج المتتبع بشكل سري في نقاط نهاية الأمان والامتثال الأساسية الموجودة في Meta.
نظرًا لأنه يعمل داخل طبقة الأمان، يمتلك MCI امتيازات نواة واسعة. أكدت ملفات السجل أنه يسجل محتوى الحافظة غير المشفر (بيانات النسخ واللصق)، وتغييرات الشيفرة الخام قبل مرحلة git، وعناوين URL الخاصة، ودورات النوم والاستيقاظ الدقيقة للكمبيوتر. يتم دمج هذه البيانات الهيكلية في “نموذج حالة المستخدم المستمر” الغني المصمم لمحاكاة الإجراءات السلوكية، مما يسمح لوكيل الذكاء الاصطناعي بتكرار تفاعلات الكمبيوتر البشرية المعقدة بدقة تصل إلى المللي ثانية.
ما الذي سيحدث بعد ذلك
من المحتمل أن تجبر المقاومة المدعومة من النقابات من الموظفين التقنيين المقيمين في المملكة المتحدة والإشعارات الرسمية المقدمة إلى المراقبين الأوروبيين Meta على الدخول في مرحلة إعادة هيكلة امتثال مكلفة. قد يضطر المهندسون إلى تقسيم بحيرات البيانات بالكامل بين الخوادم الأمريكية والأوروبية، مما يقدم “خط أنابيب تطهير” يقوم بتنظيف التفاعلات غير الأمريكية من دلاء إدخال الذكاء الاصطناعي بشكل خوارزمي.
بالنسبة للمهندسين المعماريين التقنيين وقادة الهندسة، تعتبر هذه الحالة تحذيرًا صارمًا: عند تصميم خطوط أنابيب التتبع لجمع البيانات لنماذج الذكاء الاصطناعي الداخلية الخاصة بك، **لا تقم بتوصيل منطق الاستخراج الخاص بك في خطوط أنابيب الأمان.** حافظ على التقاط بيانات التدريب منفصلًا تمامًا عن العمليات، وتأكد من أن آليات التصفية الديناميكية مدمجة في بنية الإدخال من اليوم الأول للتعامل مع اللوائح الجغرافية للخصوصية بشكل نظيف.
رأينا
في بوابة الذكاء الاصطناعي، نجد أن استراتيجية Meta وراء MCI قصيرة النظر بطبيعتها. فرض التتبع المستمر والإلزامي على فرق الهندسة بينما يتم في الوقت نفسه تسريح أعداد كبيرة من القوى العاملة يكسر الثقة الأساسية المطلوبة لبناء بنية تحتية برمجية آمنة.
علاوة على ذلك، فإن إدخال آليات تسجيل تلقائية داخل برامج أمان البيانات يخلق خطرًا هائلًا في سلسلة التوريد الداخلية. إذا تمكن خصم من اختراق قاعدة البيانات التي تحتوي على هذه السجلات الخام وغير المشفرة للحافظة، فإنهم يحصلون على خريطة طريق حرفية لنقاط الضعف في الشركة بأكملها. لا ينبغي أبدًا أن تتجاوز كفاءة المؤسسة حدود بنية الأمان الأساسية.