Executive Verdict & Key Takeaways
ابنِ خط أنابيب للتحقق من بيانات Fine-Tuning لنماذج LLM
استخدم سير عمل من ثلاث مراحل بأسلوب fail-fast لفحص بيانات Fine-Tuning، وإجراء تجربة تحقق قصيرة، واكتشاف الحالات الشاذة أثناء التشغيل، والاحتفاظ بمجموعة تحقق منفصلة لقياس سلوك النموذج.
لماذا يجب أن يأتي التحقق من Fine-Tuning أولًا؟
إن إجراء Fine-Tuning لنموذج LLM هو خط أنابيب متكامل، وليس أمر تدريب واحدًا. وقبل بدء العمليات الحسابية الفعلية، يجب على الفريق التأكد من أن الإعدادات صالحة نحويًا، وأن البيانات تتبع البنية المتوقعة، وأن تشغيلًا قصيرًا يمكن أن يكتمل من دون إخفاقات واضحة. يصف بحث FT-Dojo الموثق هذا النهج باسم التحقق التدريجي: تبدأ العملية بفحوصات منخفضة التكلفة، ثم تنتقل إلى فحوصات تزداد تكلفتها تدريجيًا. أما الإعدادات التي تفشل في أي مرحلة، فيتم رفضها فورًا بدلًا من استهلاك الموارد في تشغيل كامل.
يطبّق هذا الشرح العملي نسخة صغيرة ومحايدة تجاه مزود الخدمة من هذه الفكرة. فهو يتحقق من مجموعة بيانات بصيغة JSON Lines، ويفحص Schema لكل مثال، ويتأكد من المسارات وقيم الإعدادات، وينفّذ تشغيلًا مصغرًا على عينة، ويرصد الحالات الشاذة أثناء التشغيل، مثل فراغ مجموعة البيانات أو قيم الخسارة غير المنتهية. ولا يرسل البيانات إلى API تجاري للتدريب. هذا الحد مقصود؛ إذ إن تنسيقات التدريب الخاصة بالمزودين وأهلية النماذج تقع خارج السياق الموثق.
يفصل سير العمل أيضًا بين بيانات التدريب ومجموعة التحقق. أثناء Fine-Tuning، يتم تقليل خسارة التدريب على أمثلة التدريب. وبعد ذلك، تُحسب خسارة التحقق باستخدام بيانات لم تُستخدم لتحديث المعاملات القابلة للتدريب. ويمنحك هذا الفصل دليلًا على قدرة النموذج على التعميم، بدلًا من مجرد إظهار قدرته على ملاءمة الأمثلة التي شاهدها.
في Fine-Tuning الفعّال من حيث عدد المعاملات، تُبقي LoRA معظم الأوزان المدربة مسبقًا ثابتة، وتضيف بدلًا منها تفكيكًا منخفض الرتبة يتم تدريبه. وتسلط دراسة المعاملات الفائقة الموثقة الضوء على رتبة LoRA، وalpha الخاصة بالتحجيم، وdropout، ومعدل التعلم بوصفها متغيرات مهمة. والاستجابة الهندسية الصحيحة ليست نسخ قيمة واحدة عشوائيًا، بل التحقق من كل إعداد مرشح ومقارنته باستخدام مجموعة التحقق نفسها.
المتطلبات المسبقة
هل تبني تطبيقات أعمال أو تدفقات ذكاء اصطناعي من الصفر؟
تجاوز بناء الهياكل البرمجية التقليدية وإعداد CRUD. ولّد نظام Micro-ERP يعمل بـ PostgreSQL في دقائق.
- Python ٣.١٠ أو إصدار أحدث.
- مجموعة بيانات JSONL تحتوي على أمثلة حوارية.
- مجموعة تحقق منفصلة بصيغة JSONL لا تتداخل مع أمثلة التدريب.
- معرفة أساسية بـ JSON، وتشغيل الأوامر عبر سطر الأوامر، والبيئات الافتراضية في Python.
تستخدم أداة التحقق أدناه مكتبة Python القياسية فقط. وهذا يجعل مرحلة fail-fast سهلة التشغيل قبل تثبيت حزمة التدريب. ويمكن لتطبيق التدريب اللاحق استخدام Hugging Face Transformers API، وهي API المستخدمة للتعامل مع النماذج والتدريب والتحقق في دراسة المعاملات الفائقة الموثقة.
الخطوة ١: إنشاء المشروع وتحديد عقد البيانات
أنشئ مجلدًا للمشروع وبيئة افتراضية. سيتعامل خط الأنابيب مع كل سطر غير فارغ بصيغة JSONL باعتباره مثالًا واحدًا. ويجب أن يحتوي كل مثال على مصفوفة messages تضم كائنين على الأقل. كما يجب أن تتضمن كل رسالة دورًا مدعومًا ومحتوى نصيًا غير فارغ. ويجب أن تكون الرسالة الأخيرة هي استجابة المساعد المستهدفة.
mkdir llm-finetuning-validation
cd llm-finetuning-validation
python -m venv .venv
# Linux or macOS
source .venv/bin/activate
# Windows PowerShell
# .venvScriptsActivate.ps1
mkdir -p data/reports src
touch src/__init__.pyأنشئ الملف data/train.jsonl باستخدام أمثلة مثل الآتية:
{"messages":[{"role":"system","content":"Answer clearly."},{"role":"user","content":"What is a validation set?"},{"role":"assistant","content":"A validation set is held-out data used to measure a model during or after training."}]}
{"messages":[{"role":"system","content":"Answer clearly."},{"role":"user","content":"Why check the schema first?"},{"role":"assistant","content":"Schema checks catch malformed examples before an expensive training run begins."}]}أنشئ الملف data/validation.jsonl بشكل منفصل. لا تنسخ السجلات نفسها إلى الملفين. يقيّم البحث الموثق نموذجًا خضع لـ Fine-Tuning باستخدام مجموعة تحقق، ولذلك يجب أن تظل هذه المجموعة متاحة لهذا الغرض بدلًا من دمجها في التدريب.
الخطوة ٢: تنفيذ التحقق الثابت والتحقق من Schema
يمثل التحقق الثابت المرحلة الأولى والأقل تكلفة. فهو يتأكد من وجود مسار الإدخال، وأن كل سطر غير فارغ يحتوي على JSON صالح، وأن السجل عبارة عن كائن، وأن البنية الحوارية تستوفي عقد البيانات. كما يفحص قيم الإعدادات الخاصة برتبة LoRA، وalpha الخاصة بالتحجيم، وdropout، ومعدل التعلم، وحجم الدفعة، وطول التشغيل المصغر. وتتوافق هذه الحقول مع المعاملات الفائقة التي نوقشت في السياق الموثق؛ لكن البرنامج يتحقق من بنيتها ولا يدّعي أن أي قيمة محددة هي الأفضل.
أنشئ الملف src/validate_pipeline.py:
from __future__ import annotations
import argparse
import json
import math
from pathlib import Path
from typing import Any
ROLES = {"system", "user", "assistant"}
def issue(stage: str, message: str, line: int | None = None) -> dict[str, Any]:
result = {"stage": stage, "message": message}
if line is not None:
result["line"] = line
return result
def validate_record(record: Any, line: int) -> list[dict[str, Any]]:
errors: list[dict[str, Any]] = []
if not isinstance(record, dict):
return [issue("schema", "record must be a JSON object", line)]
messages = record.get("messages")
if not isinstance(messages, list) or len(messages) < 2:
return [issue("schema", "messages must contain at least two items", line)]
roles: list[str] = []
for index, message in enumerate(messages):
if not isinstance(message, dict):
errors.append(issue("schema", f"message {index} must be an object", line))
continue
role = message.get("role")
content = message.get("content")
if role not in ROLES:
errors.append(issue("schema", f"unsupported role at message {index}", line))
else:
roles.append(role)
if not isinstance(content, str) or not content.strip():
errors.append(issue("schema", f"message {index} needs non-empty content", line))
if "user" not in roles:
errors.append(issue("schema", "record needs a user message", line))
if roles and roles[-1] != "assistant":
errors.append(issue("schema", "final message must be the assistant target", line))
return errors
def read_records(path: Path, limit: int | None = None) -> tuple[list[dict[str, Any]], list[dict[str, Any]]]:
if not path.is_file():
return [], [issue("static", f"missing dataset path: {path}")]
records: list[dict[str, Any]] = []
errors: list[dict[str, Any]] = []
with path.open(encoding="utf-8") as handle:
for line_number, raw in enumerate(handle, 1):
if not raw.strip():
errors.append(issue("format", "blank lines are not allowed", line_number))
continue
try:
value = json.loads(raw)
except json.JSONDecodeError as error:
errors.append(issue("format", error.msg, line_number))
continue
record_errors = validate_record(value, line_number)
if record_errors:
errors.extend(record_errors)
elif limit is None or len(records) < limit:
records.append(value)
return records, errors
def validate_config(config: dict[str, Any]) -> list[dict[str, Any]]:
errors: list[dict[str, Any]] = []
positive = ("rank", "alpha", "learning_rate", "batch_size", "mini_run_records")
for name in positive:
value = config.get(name)
if not isinstance(value, (int, float)) or isinstance(value, bool) or value <= 0:
errors.append(issue("static", f"{name} must be a positive number"))
dropout = config.get("dropout")
if not isinstance(dropout, (int, float)) or not 0 <= dropout < 1:
errors.append(issue("static", "dropout must be at least 0 and below 1"))
return errors
def mini_run(records: list[dict[str, Any]]) -> list[dict[str, Any]]:
errors: list[dict[str, Any]] = []
if not records:
return [issue("runtime", "mini-run received an empty dataset")]
for index, record in enumerate(records, 1):
messages = record["messages"]
total_chars = sum(len(message["content"]) for message in messages)
if total_chars == 0:
errors.append(issue("runtime", "example produced zero content", index))
simulated_loss = 1.0 / (index + 1)
if not math.isfinite(simulated_loss):
errors.append(issue("runtime", "loss is not finite", index))
return errors
def main() -> None:
parser = argparse.ArgumentParser(description="Run fail-fast LLM fine-tuning validation.")
parser.add_argument("--train", required=True, type=Path)
parser.add_argument("--validation", required=True, type=Path)
parser.add_argument("--report", required=True, type=Path)
parser.add_argument("--rank", type=int, default=8)
parser.add_argument("--alpha", type=float, default=16)
parser.add_argument("--dropout", type=float, default=0.05)
parser.add_argument("--learning-rate", type=float, default=0.0001)
parser.add_argument("--batch-size", type=int, default=4)
parser.add_argument("--mini-run-records", type=int, default=8)
args = parser.parse_args()
config = {"rank": args.rank, "alpha": args.alpha, "dropout": args.dropout,
"learning_rate": args.learning_rate, "batch_size": args.batch_size,
"mini_run_records": args.mini_run_records}
errors = validate_config(config)
train, train_errors = read_records(args.train)
validation, validation_errors = read_records(args.validation)
errors.extend(train_errors)
errors.extend(validation_errors)
if not errors:
errors.extend(mini_run(train[:args.mini_run_records]))
errors.extend(mini_run(validation[:args.mini_run_records]))
report = {"approved_for_full_run": not errors, "config": config,
"train_records_checked": len(train),
"validation_records_checked": len(validation),
"errors": errors}
args.report.parent.mkdir(parents=True, exist_ok=True)
args.report.write_text(json.dumps(report, indent=2) + "n", encoding="utf-8")
print(json.dumps(report, indent=2))
if errors:
raise SystemExit(1)
if __name__ == "__main__":
main()الخطوة ٣: تشغيل التشغيل المصغر
شغّل أداة التحقق قبل بدء Fine-Tuning الكامل:
python -m src.validate_pipeline
--train data/train.jsonl
--validation data/validation.jsonl
--report data/reports/validation_report.jsonيوقف البرنامج العملية قبل التشغيل المصغر إذا فشلت فحوصات التحقق الثابت أو Schema أو التنسيق. وهذا هو سلوك fail-fast الموضح في عمل FT-Dojo الموثق. ولا يمثل نجاح التشغيل المصغر هنا دليلًا على أن أداء النموذج سيكون جيدًا؛ فهو يوضح فقط أن البيانات والإعدادات المحددة اجتازت فحوصات البنية والتشغيل القصير منخفضة التكلفة.
أُدرج حجم الدفعة الافتراضي البالغ ٤ لأنه استُخدم في دراسة المعاملات الفائقة الموثقة، وليس لأنه صحيح على نحو عام. فقد تتطلب سعة العتاد، وطول التسلسل، وحجم النموذج، وتطبيق التدريب إعدادات مختلفة. وبالمثل، فإن قيم LoRA الواردة في المثال هي مدخلات للتحقق وليست قيمًا مثلى موصى بها. قارن بين المرشحين باستخدام مجموعة التحقق نفسها، وسجّل إعدادات كل تشغيل.
الخطوة ٤: تفسير خسارة التحقق وتجارب LoRA
بعد اجتياز الفحوصات الثابتة والتشغيل المصغر، يمكن لتطبيق تدريب فعلي إجراء Fine-Tuning للنموذج وحساب خسارة التحقق. تستخدم الدراسة الموثقة Hugging Face Transformers API للتعامل مع النماذج والتدريب والتحقق، كما تكيّف المعاملات القابلة للتدريب في LoRA مع إبقاء معظم الأوزان المدربة مسبقًا ثابتة. وتبحث الدراسة في الرتبة، وalpha الخاصة بالتحجيم، وdropout، ومعدل التعلم، لأن هذه الإعدادات تؤثر في الأداء اللاحق.
حافظ على بساطة جدول التجارب وقابليته لإعادة الإنتاج. ولكل مرشح، سجّل إصدار مجموعة البيانات، ومعرّف النموذج، ورتبة LoRA، وalpha، وdropout، ومعدل التعلم، وحجم الدفعة، وعدد خطوات التدريب أو العصور، وخسارة التدريب، وخسارة التحقق. لا تقارن بين تشغيلات تغيرت فيها بيانات التدريب أو بيانات التحقق في الوقت نفسه. فخسارة التدريب المنخفضة وحدها غير كافية؛ إذ نحتاج إلى نتيجة التحقق لتقييم قدرة النموذج المكيّف على التعميم على الأمثلة المحجوزة.
يصف البحث الموثق أيضًا تحسين المعاملات الفائقة بأسلوب الصندوق الأسود باستخدام NOMAD. وهذا نهج للتحسين التجريبي، وليس سببًا لتجاوز التحقق. فما زال ينبغي لكل إعداد مقترح اجتياز الفحوصات منخفضة التكلفة والتشغيل المصغر قبل السماح بالتدريب المكلف.
الخطوة ٥: إضافة فحوصات السلامة أثناء التشغيل
يجب أن تبحث فحوصات التشغيل عن الإخفاقات التي لا يستطيع التحقق الثابت اكتشافها. ويحدد وصف FT-Dojo الموثق تحديدًا انفجار الخسارة، ومجموعات البيانات الفارغة، والتدرجات غير الصالحة بوصفها أمثلة على الحالات الشاذة أثناء التشغيل. وتتحقق أداة المكتبة القياسية أعلاه من فراغ التشغيل المصغر والقيم المحاكاة غير المنتهية؛ أما تكامل التدريب، فينبغي أن يربط نقطة القرار نفسها بقيم الخسارة والتدرجات الفعلية التي ينتجها إطار التدريب.
أوقف التشغيل عند فشل أحد فحوصات السلامة. ولا تفسر اكتمال العملية على أنه نجاح للتجربة إذا كانت مجموعة البيانات فارغة، أو كانت بنية المخرجات غير متوافقة، أو أصبحت الخسارة غير منتهية، أو كانت التدرجات غير صالحة. فالهدف من التصميم المرحلي هو رفض الإعدادات المعطلة مبكرًا وإرجاع تشخيصات دقيقة بعد إنفاق قدر محدود من العمليات الحسابية.
الخطوة ٦: تنفيذ Fine-Tuning الكامل بعد الموافقة فقط
يعني التقرير الذي يحتوي على approved_for_full_run: true أن البوابات المحلية اجتازت الفحص فقط. ولا يضمن ذلك الجودة أو السلامة أو الحصول على نموذج نهائي مفيد. وقبل التدريب الكامل، افحص أمثلة تمثيلية وتأكد من فصل مجموعة التحقق. ثم شغّل تطبيق Fine-Tuning المختار وقيّم النموذج الناتج باستخدام مجموعة التحقق التي لم يطرأ عليها تغيير.
استخدم الإعداد التجريبي الموثق أربع وحدات NVIDIA A100 بذاكرة ٨٠ GB، وAdamW، وحجم دفعة يبلغ ٤. تعامل مع هذه التفاصيل بوصفها شروط تلك الدراسة. فهي نقاط مرجعية مفيدة لإعادة إنتاج التجربة، لكنها ليست متطلبات بنية تحتية عامة لكل تشغيل لـ LLM أو LoRA.
أهم الخلاصات
- استخدم التحقق الثابت والتحقق من Schema قبل أي عملية حسابية مكلفة.
- افحص تنسيق البيانات وشغّل تشغيلًا مصغرًا قبل بدء التدريب الكامل.
- اكتشف البيانات الفارغة، والخسارة غير المنتهية، والتدرجات غير الصالحة أثناء التشغيل.
- احتفظ بمجموعة تحقق منفصلة، واحسب خسارة التحقق بعد Fine-Tuning.
- تعامل مع رتبة LoRA، وalpha، وdropout، ومعدل التعلم باعتبارها متغيرات تجريبية.
- استخدم إعدادات العتاد والمُحسِّن الخاصة بالبحث بوصفها شروطًا موثقة، لا قيمًا افتراضية عامة.
المصادر
- FT-Dojo: نحو Fine-Tuning ذاتي لنماذج LLM باستخدام الوكلاء اللغويين.
- تحسين المعاملات الفائقة لتدريب نماذج اللغة الكبيرة على التعليمات.
- Hugging Face: إجراء Fine-Tuning لنموذج SmolLM باستخدام بيانات اصطناعية.
راجعه تحريريًا فريقا تحرير وهندسة بوابة الذكاء الاصطناعي، GateOfAI, LLC، ديلاوير، الولايات المتحدة الأمريكية.