#MNN Chat最新吧简介
MNN Chat是由阿里研发的离线智能对话应用,堪称“掌上AI宝盒”。它基于MNN推理框架,可在安卓设备本地运行大型语言模型,无需连接云端服务器,真正实现数据隐私与安全。依托手机CPU与GPU算力,MNN Chat支持多模态交互:实时识别图像与语音,一键生成图文、创作视频、编写代码,甚至搭建简易网页,全流程运算均在本地完成。功能全面对标Google AI Edge Gallery,却更强调自主可控与隐私保护。无论是日常对话、创意设计,还是编程辅助,皆可离线高效完成。无需依赖厂商服务,用户可自由定制模型与功能,打造专属智能助手。其轻量化部署与强大性能结合,让巨型模型“脱网”运行成为现实,是追求隐私安全、极致效率用户的理想之选。
2、从中挑选您想要的那一款大模型,进行下载。

3、下载完毕之后,就能直接在程序里开始与模型的问答来往。

4、从侧栏步入聊天记录区,可以便捷地回看和打理以往的每条对话。

MNN Chat应用场合
1、全能文稿与编码帮手:它不光能闲聊,还能代写学术文章、活动方案,甚至在移动端写出可真正跑起来的代码,应付各种文书与编程任务。
2、随身影音工坊:它可当作绘图与视频处理器具。给出号令就能产出画作,或剖析视频片段后提炼要点、摘录字幕,也可辅助整理剪辑思路,完成从文字到图像再到影像的跨形态输出。
3、复合信息中枢:相比功能单一的寻常应用,它像一个大型调度中心,可一同解析图片、声音和视频。拍下流程图能转成代码,录入会议录音可生成附带插图的演示大纲。
4、脱网高效作业台:最要紧的一点,这些重负荷任务(绘图、视频剖析、代码编写)全部在手机本地完成。等于随身携带一个不耗流量、免去月费、反应迅捷的强力工具,随时投入产出。
更新日志
v0.8.2.2版本
一、本次更新要点:
1、刷新自带MNN运行库,引入最新的CPU线性注意力机制和Arm82 fp16加速途径。
2、针对思考模式提示词和数组拼接情形,改进分词器与模板渲染的适配性。
3、给OpenCL和Metal执行线路补上TopKV2后端支持。
二、缺陷修正:
1、修复安卓端点击“添加本地模型”时偶发的闪退现象。
2、排除模型载入阶段因mmap权重部分初启导致的进程锁死问题。
3、对同一模型启动API服务时复用已有的运行会话,防止反复加载造成的无响应或崩溃。