📱 设备端 AI 是什么？

⚡ 一句话秒懂

AI直接在手机里跑，不用联网、不传数据

📖 举个故事

小美在手机上用输入法打字，发现每按一个字，输入法就会智能推荐下一个词，而且反应飞快。她关了网络，发现居然还能正常推荐。原来这个AI模型直接存在手机里，不需要联网。她的打字习惯也只在手机本地处理，没有上传到云端。设备端AI就像随身带了一个小AI——不依赖网络，保护隐私。

💡 类比理解

暂未补充。

🧩 真实例子

暂未补充。

🛠️ 怎么实际使用

设备端AI已经深入日常：手机相册的人脸识别（本地处理）、输入法的智能联想（本地模型）、语音助手的离线唤醒词识别。手机厂商也在推广端侧大模型：iPhone 15 Pro的本地AI、三星Galaxy AI、小米大模型。开发时可用Google MediaPipe、Apple Core ML、Qualcomm SNPE等框架部署模型到移动设备。

📚 进阶原理

设备端AI（On-Device AI）在终端设备上直接运行推理，无需网络通信。核心挑战是算力和存储限制，通过量化（INT4/INT8）、模型剪枝（Pruning）、知识蒸馏（Distillation）和神经架构搜索（NAS）压缩模型。手机端NPU（神经网络处理单元）专门加速推理，如Apple Neural Engine（每秒35万亿次运算）。

继续学习相关术语