الخطوة ١: إنشاء المشروع وتحديد عقد البيانات

أنشئ مجلدًا للمشروع وبيئة افتراضية. سيتعامل خط الأنابيب مع كل سطر غير فارغ بصيغة JSONL باعتباره مثالًا واحدًا. ويجب أن يحتوي كل مثال على مصفوفة messages تضم كائنين على الأقل. كما يجب أن تتضمن كل رسالة دورًا مدعومًا ومحتوى نصيًا غير فارغ. ويجب أن تكون الرسالة الأخيرة هي استجابة المساعد المستهدفة.

mkdir llm-finetuning-validation
cd llm-finetuning-validation
python -m venv .venv

# Linux or macOS
source .venv/bin/activate

# Windows PowerShell
# .venvScriptsActivate.ps1

mkdir -p data/reports src
touch src/__init__.py

أنشئ الملف data/train.jsonl باستخدام أمثلة مثل الآتية:

{"messages":[{"role":"system","content":"Answer clearly."},{"role":"user","content":"What is a validation set?"},{"role":"assistant","content":"A validation set is held-out data used to measure a model during or after training."}]}
{"messages":[{"role":"system","content":"Answer clearly."},{"role":"user","content":"Why check the schema first?"},{"role":"assistant","content":"Schema checks catch malformed examples before an expensive training run begins."}]}

أنشئ الملف data/validation.jsonl بشكل منفصل. لا تنسخ السجلات نفسها إلى الملفين. يقيّم البحث الموثق نموذجًا خضع لـ Fine-Tuning باستخدام مجموعة تحقق، ولذلك يجب أن تظل هذه المجموعة متاحة لهذا الغرض بدلًا من دمجها في التدريب.

الخطوة ٢: تنفيذ التحقق الثابت والتحقق من Schema

يمثل التحقق الثابت المرحلة الأولى والأقل تكلفة. فهو يتأكد من وجود مسار الإدخال، وأن كل سطر غير فارغ يحتوي على JSON صالح، وأن السجل عبارة عن كائن، وأن البنية الحوارية تستوفي عقد البيانات. كما يفحص قيم الإعدادات الخاصة برتبة LoRA، وalpha الخاصة بالتحجيم، وdropout، ومعدل التعلم، وحجم الدفعة، وطول التشغيل المصغر. وتتوافق هذه الحقول مع المعاملات الفائقة التي نوقشت في السياق الموثق؛ لكن البرنامج يتحقق من بنيتها ولا يدّعي أن أي قيمة محددة هي الأفضل.

أنشئ الملف src/validate_pipeline.py:

from __future__ import annotationsimport argparse
import json
import math
from pathlib import Path
from typing import AnyROLES = {"system", "user", "assistant"}def issue(stage: str, message: str, line: int | None = None) -> dict[str, Any]:
result = {"stage": stage, "message": message}
if line is not None:
result["line"] = line
return resultdef validate_record(record: Any, line: int) -> list[dict[str, Any]]:
errors: list[dict[str, Any]] = []
if not isinstance(record, dict):
return [issue("schema", "record must be a JSON object", line)]
messages = record.get("messages")
if not isinstance(messages, list) or len(messages) < 2:
return [issue("schema", "messages must contain at least two items", line)]roles: list[str] = []
for index, message in enumerate(messages):
if not isinstance(message, dict):
errors.append(issue("schema", f"message {index} must be an object", line))
continue
role = message.get("role")
content = message.get("content")
if role not in ROLES:
errors.append(issue("schema", f"unsupported role at message {index}", line))
else:
roles.append(role)
...
تابع القراءة
سجل دخولك مجاناً لقراءة المقال كاملاً والوصول إلى أدوات الذكاء الاصطناعي.
تسجيل الدخول / إنشاء حساب