Mac M1 安装 deepspeed

目录

背景

环境

安装步骤

一、首先安装Xcode环境

二、环境准备

三、安装 ROCm 或 CUDA(可选)

四、安装 deepspeed

五、验证安装

六、运行测试

常见问题

问题1:error: subprocess-exited-with-error


背景

        在 Mac M1 上通过 pip3 安装 deepspeed 需要一些额外的步骤,因为 M1 芯片使用的是 ARM 架构,而不是传统的 x86 架构。以下是一些详细的步骤和注意事项,帮助你在 Mac M1 上成功安装 deepspeed

环境

系统:Mac M1  macOS 13.7.2 

软件:Python3.11、Pytorch2.3.1、deepspeed0.16.2

  

安装步骤

一、首先安装Xcode环境

打开终端

  • 按 Cmd + Space,输入 Terminal,然后按回车。

运行安装命令

        在终端中输入如下命令:

xcode-select --install

        在弹出的对话框中点击“安装”,然后按照提示完成安装。

验证安装

        运行以下命令验证安装路径:

xcode-select -p

        执行结果如下:

        你应该会看到类似 /Applications/Xcod

### 如何在 Mac M1 设备上安装和使用 DeepSeek #### 准备工作 为了顺利安装并使用 DeepSeek,在开始之前需确认已具备以下条件: - macOS 版本兼容 M1 芯片架构。 - Python 环境已经配置好,建议版本不低于 3.8。 #### Docker 安装与设置 由于 DeepSeek 推荐采用容器化的方式部署来简化依赖管理,因此先要确保 Docker 正常运作于 Mac M1 上。按照官方指南操作,选择默认选项直至完成整个流程[^4]。接着利用 GitHub 或其他支持的身份验证手段登陆到 Docker Hub 中。 #### 安装 DeepSpeed 和相关组件 对于 Mac M1 用户来说,直接通过 pip 安装 deepspeed 可能会遇到一些挑战。考虑到这一点,推荐的方法是借助 conda 创建一个新的虚拟环境,并在此基础上尝试安装所需的库文件。如果仍然遭遇困难,则考虑寻找预编译好的二进制包或是社区贡献者分享的解决方案[^1]。 ```bash conda create -n deepseek python=3.9 conda activate deepseek pip install --upgrade pip setuptools wheel pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cpu pip install deepspeed ``` #### 部署 DeepSeek 模型 针对不同规模的需求可以选择合适大小的模型进行加载。例如拥有较高内存容量 (如64GB) 的设备可尝试更大尺寸的变体;而对于一般用途而言,较小规格可能更为适宜[^2]。具体步骤涉及下载目标模型权重以及配套脚本,之后依据文档指引启动服务端口监听等待客户端请求接入。 #### 使用 Anything LLM 应用程序 除了上述技术栈外,还有专门面向终端用户的图形界面工具可供选用——Anything LLM 就是一个不错的选择。它不仅集成了多种流行框架的支持,而且提供了直观易懂的操作面板让用户快速上手实践 AI 功能开发。只需跟随向导提示依次完成各项设定就能轻松调用本地或云端资源实现自然语言处理任务自动化[^3]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值