Follow

在 GitHub 上开源的一个可在手机上直接运行小型语言模型的客户端:PocketPal AI。

允许在离线的情况下,直接在手机上运行小型语言模型,支持 Phi、Gemma 2、Qwen 以及 Danube 2/3 等模型。

GitHub: github.com/a-ghorbani/pocketpa

除此之外,支持下载和切换不同的模型,自动管理内存,并提供模型参数调整、性能指标查看等功能。

目前已提供 iOS 和 安卓 手机系统安装使用。

:icon_weibo: weibo.com/5722964389/Pfvomqsg9

Sign in to participate in the conversation
小森林

每个人都有属于自己的一片森林,也许我们从来不曾走过,但它一直在那里,总会在那里。迷失的人迷失了,相逢的人会再相逢。愿这里,成为属于你的小森林。