28 lines
595 B
Markdown
28 lines
595 B
Markdown
# Implementation Tests
|
|
|
|
这里放手写实现的对齐测试。
|
|
|
|
测试原则：
|
|
|
|
- 先和 MiniMind 原源码对齐 shape。
|
|
- 再对齐数值结果。
|
|
- 最后对齐阶段脚本能否跑通 tiny 数据。
|
|
|
|
后续课程会逐步加入：
|
|
|
|
- `test_losses.py`
|
|
- `test_model_parts.py`
|
|
- `test_ffn_moe_alignment.py`
|
|
- `test_train_loop_mechanics.py`
|
|
- `test_checkpoint_resume.py`
|
|
- `test_sft_dataset_alignment.py`
|
|
- `test_sft_stage_args.py`
|
|
- `test_lora_core.py`
|
|
- `test_lora_injection.py`
|
|
- `test_generation.py`
|
|
- `test_datasets.py`
|
|
- `test_lora.py`
|
|
- `test_dpo.py`
|
|
- `test_ppo.py`
|
|
- `test_grpo.py`
|