端智能学习记录

把 AI 模型跑在手机上。记录从 Flutter 开发到端侧推理的完整学习路径。

学习路径

01

模型格式与转换

理解 ONNX、TensorFlow Lite、Core ML 的区别,实战 PyTorch 到各端的模型转换。

02

C++ 桥接与 SDK

掌握 JNI、dart:ffi、MethodChannel,把 C++ 推理引擎接入 Flutter App。

03

推理优化

INT8 量化、模型剪枝、算子融合,让模型在手机上跑得更快更省电。

04

端侧 RAG 与 Agent

本地向量检索 + 小模型推理,构建不联网的 AI 助手。

技术栈

Flutter Dart Python C++ ONNX TFLite Core ML MNN Drift Riverpod D1 Cloudflare Astro