在苹果电脑 Apple 芯片上运行或微调大模型往往会存在兼容性问题。
不妨试下,GitHub 上这个可用在 Apple 芯片上使用 MLX 生成文本和微调大模型的 Python 工具包:MLX LM。
GitHub: https://github.com/ml-explore/mlx-lm
它与 Hugging Face Hub 集成,可通过一条命令就能轻松使用数千个大语言模型。
同时还支持量化、推理和微调模型,并支持将模型一键上传到 Hugging Face Hub。
#AI创造营
https://weibo.com/5722964389/Pj675A0P5
每个人都有属于自己的一片森林,也许我们从来不曾走过,但它一直在那里,总会在那里。迷失的人迷失了,相逢的人会再相逢。愿这里,成为属于你的小森林。