在 GitHub 上开源的一个可在手机上直接运行小型语言模型的客户端:PocketPal AI。
允许在离线的情况下,直接在手机上运行小型语言模型,支持 Phi、Gemma 2、Qwen 以及 Danube 2/3 等模型。
GitHub: https://github.com/a-ghorbani/pocketpal-ai
除此之外,支持下载和切换不同的模型,自动管理内存,并提供模型参数调整、性能指标查看等功能。
目前已提供 iOS 和 安卓 手机系统安装使用。 #AI创造营
https://weibo.com/5722964389/Pfvomqsg9
Why is this step necessary? hello.2heng.xin might not be the server where you are registered, so we need to redirect you to your home server first. Don't have an account? You can sign up here
hello.2heng.xin