Follow

在苹果电脑 Apple 芯片上运行或微调大模型往往会存在兼容性问题。

不妨试下,GitHub 上这个可用在 Apple 芯片上使用 MLX 生成文本和微调大模型的 Python 工具包:MLX LM。

GitHub: github.com/ml-explore/mlx-lm

它与 Hugging Face Hub 集成,可通过一条命令就能轻松使用数千个大语言模型。

同时还支持量化、推理和微调模型,并支持将模型一键上传到 Hugging Face Hub。

:icon_weibo: weibo.com/5722964389/Pj675A0P5

Sign in to participate in the conversation
小森林

每个人都有属于自己的一片森林,也许我们从来不曾走过,但它一直在那里,总会在那里。迷失的人迷失了,相逢的人会再相逢。愿这里,成为属于你的小森林。