当DeepSeek遇见鲲鹏:SK90 DeepSeek智算一体机超融合AI部署实战全解析
发表时间:2025-02-27
返回列表伴随DeepSeek的开源和爆火,恒扬数据快速推出SK90 DeepSeek智算一体机。对于想要深入探索SK90 DeepSeek智算一体机强大功能的伙伴们来说,了解其部署环境与步骤是开启高效AI之旅的关键。恒扬数据SK90 DeepSeek智算一体机搭载鲲鹏920模组和昇腾310智算芯片,拥有 64 核强劲算力,运行openEuler 22.03 (LTS-SP3)系统,可为企业数字化转型和加速开发者 AI 应用落地赋能助力。今天,就为大家详细拆解在SK90 DeepSeek智算一体机上进行超融合 AI 部署的全过程,从环境搭建到模型部署,步步为营,助你轻松掌握,快跟上脚步,一同开启这场智算探索之旅!
部署环境
SK90 DeepSeek智算一体机包含2个鲲鹏920模组,单模组配置64核,实际配置如下:
部署步骤
步骤一:下载安装Ollama
Ollama是一个开源的本地模型运行工具,可以方便地下载和运行各种开源模型,如 Llama、Qwen、DeepSeek等。Ollama提供高效、灵活的大模型部署和管理解决方案,可以简化模型的部署流程。支持macOS、Linux、Windows操作系统。
下载Ollama安装命令:
curl -fsSL https://ollama.com/install.sh | sh |
手动下载链接:
https://ollama.com/download/OllamaSetup.exe |
直接解压安装:
tar -C /usr -xzf ollama-linux-arm64.tgz |
步骤二:启动运行Ollama
启动运行Ollama
ollama -v # 查看版本信息 ollama serve # 启动ollama |
https://ollama.com/search |
1.5b 的命令为: "ollama run deepseek-r1:1.5b" 7b 的命令为: "ollama run deepseek-r1:7b" 8b 的命令为: "ollama run deepseek-r1:8b" 14b 的命令为: "ollama run deepseek-r1:14b" |
步骤三:启动运行Ollama
推荐大家先下载较小的1.5b模型,把安装程序跑通,再根据自己的硬件配置和需求安装适当的版本。
ollama run deepseek-r1:1.5b |
ollama run deepseek-r1:8b |
运行和简单提问输出效果
以此类推,可以运行32B模型:ollama run deepseek-r1:32b
输入 “/?”,可以获得帮助。
至此,SK90 DeepSeek智算一体机的超融合AI部署实战全解析就结束了。从前期的部署环境准备,到一步步完成Ollama的安装、启动以及DeepSeek模型的下载运行,每一个环节都紧密相连。通过这些操作,大家已经能够在这台智算一体机上初步体验到AI的魅力。在实际运用中,大家可以根据自身需求,灵活调整模型版本和使用方式。要是在部署过程中遇到难题,别担心,多尝试文中的方法,也欢迎与我们联系交流探讨。