端智能学习记录
把 AI 模型跑在手机上。记录从 Flutter 开发到端侧推理的完整学习路径。
学习路径
01
模型格式与转换
理解 ONNX、TensorFlow Lite、Core ML 的区别,实战 PyTorch 到各端的模型转换。
02
C++ 桥接与 SDK
掌握 JNI、dart:ffi、MethodChannel,把 C++ 推理引擎接入 Flutter App。
03
推理优化
INT8 量化、模型剪枝、算子融合,让模型在手机上跑得更快更省电。
04
端侧 RAG 与 Agent
本地向量检索 + 小模型推理,构建不联网的 AI 助手。
技术栈
Flutter Dart Python C++ ONNX TFLite Core ML MNN Drift Riverpod D1 Cloudflare Astro