在 GitHub 上开源的一个可在手机上直接运行小型语言模型的客户端:PocketPal AI。
允许在离线的情况下,直接在手机上运行小型语言模型,支持 Phi、Gemma 2、Qwen 以及 Danube 2/3 等模型。
GitHub: https://github.com/a-ghorbani/pocketpal-ai
除此之外,支持下载和切换不同的模型,自动管理内存,并提供模型参数调整、性能指标查看等功能。
目前已提供 iOS 和 安卓 手机系统安装使用。 #AI创造营
https://weibo.com/5722964389/Pfvomqsg9
每个人都有属于自己的一片森林,也许我们从来不曾走过,但它一直在那里,总会在那里。迷失的人迷失了,相逢的人会再相逢。愿这里,成为属于你的小森林。