595 B
595 B
Implementation Tests
这里放手写实现的对齐测试。
测试原则:
- 先和 MiniMind 原源码对齐 shape。
- 再对齐数值结果。
- 最后对齐阶段脚本能否跑通 tiny 数据。
后续课程会逐步加入:
test_losses.pytest_model_parts.pytest_ffn_moe_alignment.pytest_train_loop_mechanics.pytest_checkpoint_resume.pytest_sft_dataset_alignment.pytest_sft_stage_args.pytest_lora_core.pytest_lora_injection.pytest_generation.pytest_datasets.pytest_lora.pytest_dpo.pytest_ppo.pytest_grpo.py