首页 / 技术博客

从训练到部署的技术记录

记录模型训练、导出和端侧部署中遇到的具体问题,保留版本、实验条件与尚未解决的限制。

每篇均提供中文与英文全文。

共 8 篇文章

模型训练记录更新

训练 NaN 的失败现场与状态恢复

区分 AMP 跳步、非有限 loss 和日志异常,整理复现训练 NaN 所需的实际 batch、模型、优化器和随机状态。

约 6 分钟阅读
端侧部署记录更新

Qualcomm QNN 环境部署与 ABI 排查

按 ELF、ABI、ARM/DSP 加载路径、Plugin EP 注册和 EPContext 重载顺序,排查 Linux ARM64 上的 Qualcomm QNN 部署环境。

约 6 分钟阅读
端侧部署记录更新

RKNN 上 DEIM 的采样语义与部署边界

记录 DEIMv2 在 RKNN 上的 GridSample 语义、CPU/GPU 回退成本和离散采样差异,说明 RK3576、RK3588 历史测试的适用范围。

约 4 分钟阅读
视频与数据记录更新

视频转码、抽帧与时间定位的一致性

对照单次与循环视频定位中的实际抽帧、PTS 和裁剪偏移,在原始时间轴上核对区间结果、重复命中与时序评测。

约 6 分钟阅读
端侧部署记录更新

NVIDIA AGX Orin 系统与 TensorRT 环境部署

从 Jetson AGX Orin 系统和 CUDA 组件,到 TensorRT Python binding、GPU 容器、引擎构建与数值验证,建立可复现的部署基线。

约 8 分钟阅读
模型训练记录更新

Qwen3-VL 层次化 SFT 的策略与边界

梳理 Qwen3-VL 分阶段 SFT 中的参数冻结、优化器状态、多模态输入与独立评测,区分训练 loss 和实际任务效果。

约 5 分钟阅读