摘要：春节期间备受瞩目的AI新秀DeepSeek-R1，在数学、代码和推理任务上表现卓越，迅速成为业界焦点。
春节期间备受瞩目的AI新秀DeepSeek-R1，在数学、代码和推理任务上表现卓越，迅速成为业界焦点。
2月6日，南京智算中心宣布联合国产芯片厂商寒武纪，用全国产设备运行国产大模型DeepSeek，为苏宁易购提供全国产化模型推理服务，成为南京首例全国产算力版DeepSeek案例。
南京智算中心由麒麟科创园2020年投资建设，是江苏唯一、国家首批“国家新一代人工智能公共算力开放创新平台”，也是长三角地区当前投运规模最大、算力最高的国产化智能计算中心。
DeepSeek发布后，南京智算中心积极行动，与寒武纪、苏宁科技紧密携手、共同发力，充分发挥自身优势，合力突破技术瓶颈，成功上线全国产算力版DeepSeek。
“在国内，基于整套国产设备、大模型服务国内客户的案例目前并不多。”南京智算中心运营总监洪晨曦透露，为实现这一全国产化算力模型部署上线，他与多位程序员，联合寒武纪及苏宁科技工程师团队，针对苏宁易购需求，从1月30日（年初二）开启加班适配工作，终于取得了较好的阶段性应用成果——基于全国产化部署，DeepSeek-R1基础模型助力苏宁灵思大模型，有效提升苏宁供应链物流决策分析和内容营销、智能客服导购等场景应用能力。⬆DeepSeek-R1-Distill-Qwen-7B⬆
⬆DeepSeek-R1-Distill-Llama-8B⬆
立刻体验DeepSeek 大模型
继承DeepSeek的开源精神，全国产算力版DeepSeek也适配的全过程公开，通过极简步骤，快来一起探索吧！一 平台环境准备
镜像选择：
pytorch:v24.12-torch2.5.0-torchmlu1.24.0-ubuntu22.04-py310
任意一款MLU3系列及以上卡
二 模型下载
下载链接如下⬇⬇⬇
apt install git-lfsgit-lfs clone https://www.modelscope.cn/deepseek-ai/DeepSeek-R1-Distill-Qwen-14B.git三 环境安装
直接pip install⬇⬇⬇
pip install transformers accelerate四 代码修改
from transformers import AutoModelForCausalLM, AutoTokenizerimport torch###+import torch_mlu###+import torch_mlu.utils.gpu_migration###+model_name = "/workspace/volume/guojunceshi2/DeepSeek-R1-Distill-Qwen-14B"model = AutoModelForCausalLM.from_pretrained( model_name, torch_dtype=torch.float16,###+ device_map="auto")tokenizer = AutoTokenizer.from_pretrained(model_name)prompt = "我只有3000元，帮我制定一份南京3天游"messages = [ {"role": "user", "content": prompt}]text = tokenizer.apply_chat_template( messages, tokenize=False, add_generation_prompt=True)model_inputs = tokenizer([text], return_tensors="pt").to(model.device)generated_ids = model.generate( **model_inputs, max_new_tokens=512)generated_ids = [ output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)]response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]print(response)五 运行效果
接下来，以“适合预算约3000元的南京3天游行程建议”对DeepSeek进行提问，看看它会如何回答：
/torch/venv3/pytorch/lib/python3.10/site-packages/torch_mlu/mlu/__init__.py:379: UserWarning: Linear memory is not supported on this device. Falling back to common memory. (Triggered internally at /torch_mlu/torch_mlu/csrc/framework/core/caching_allocator.cpp:718.) torch_mlu._MLUC._mlu_init[WARNING][/torch_mlu/torch_mlu/csrc/utils/version.cpp:133][operator][process:22535][thread:140454997248896]: Cambricon NEUWARE minimum version requirements not met! Require DRIVER minimum verion is 6.2.8-1, but current version is 5.10.29-1Loading checkpoint shards: 100%|| 4/4 [00:13Setting `pad_token_id` to `eos_token_id`:151643 for open-end generation.[2025-01-31 21:51:38.846151][CNNL][WARNING][22535][Card:0]: [cnnlGetReduceOpWorkspaceSize] is deprecated and will be removed in future release. Use [cnnlGetReduceOpWorkspaceSize_v2] instead.[2025-01-31 21:51:38.846271][CNNL][WARNING][22535][Card:0]: [cnnlReduce] is deprecated and will be removed in future release. Use [cnnlReduce_v2] instead.嗯，用户说他只有3000元，想让我帮他制定一份南京3天游的计划。首先，我得考虑他的预算情况，3000元在3天里怎么分配比较合理。通常，旅游费用包括交通、住宿、餐饮和景点门票，所以我要平衡这些部分。他可能是一个独自旅行或者和朋友一起，不太清楚南京有哪些必去的景点，所以需要推荐一些经典的地方。南京作为六朝古都，有很多历史文化景点，比如中山陵、夫子庙、秦淮河这些，都是不能错过的。交通方面，南京的地铁很方便，可以建议他买地铁一日票或者多日票，这样比较划算。另外，景点之间的距离可能有点远，所以交通费用需要考虑进去。住宿的话，3000元大概可以住三星级到四星级的酒店，或者选择经济型连锁酒店，这样每天大概1000元左右。可能的话，住在新街口或者夫子庙附近，交通便利，方便游玩。餐饮方面，南京的小吃很出名，比如盐水鸭、汤包等，预算要留出一部分来品尝当地美食。每顿饭大概控制在50-100元，这样3天下来餐饮费用大约500-800元。景点门票方面，中山陵免费，夫子庙免费，但有些景点可能需要门票，比如明孝陵、总统府等，这些加起来可能需要300-500元。接下来，我得安排每天的行程，尽量让行程紧凑但不过于劳累。第一天可以安排中山陵、明孝陵和紫金山天文台，这些地方都在紫金山附近，比较集中。第二天集中在老城区，夫子庙、秦淮河、南京博物馆，晚上可以去新街口和夫子庙附近逛逛。第三天安排总统府、南京大屠杀纪念馆和玄武湖公园，这样既有历史又有自然景观。还要考虑一些小贴士，比如交通卡的购买，景点的开放时间，以及当地的美食推荐。这样用户在旅行中会更方便。最后，检查一下总预算是否在3000元左右，可能需要做一些调整，比如住宿选择更便宜的选项，或者减少一些景点，但尽量让行程丰富又不超支。好的！以下是一个适合预算约3000元的南京3天游行程建议。南京是一个历史悠久的城市，既有丰富的历史文化景点，也有现代化的城市风光。以下是详细的行程安排：---### **第一天：历史文化之旅****交通预算**：约100元（地铁或公交）**住宿预算**：约1000元（经济型酒店或青年旅舍）**餐饮预算**：约300元#### 上午：1. **中山陵**（免费） - 南京的标志性景点，民国建筑的代表，登顶可以俯瞰南京全景。 - 建议早晨前往，避免人流过多。#### 下午：2. **明孝陵**（门票：70元） - 明代皇家陵寝，世界文化遗产，建筑宏伟，适合拍照。 - 建议参观祾恩殿和石像生。3. **紫金山天文台**（门票：20元） - 如果时间充裕，可以顺便参观，感受科学与历史的结合。#### 晚上：4. **晚餐**：尝试南京特色美食，如盐水鸭、鸭血粉丝汤、小笼包等。推荐去新街口或夫子庙附近的餐厅。5. **住宿**：建议住在夫子庙或新街口附近，方便第二天游玩。---### **第二天：古城与现代生活****交通预算**：约80元**景点预算**：约100元**餐饮预算**：约300元#### 上午：1. **夫子庙秦淮风光带**（免费） - 漫步秦淮河畔，感受古都风情，可以租一只小船在河上漂流（约50元/小时）。 - 推荐在夫子庙附近购买一些南京特产，如云锦、雨花石等。2. **南京博物馆**（免费） - 如果时间充裕，可以参观，了解南京的历史文化。#### 下午：3. **总统府**（门票：80元） - 近代历史的重要遗址，建筑风格中西合璧，适合拍照。4. **鼓楼公园**（免费） - 如果时间允许，可以顺便逛逛，感受南京的慢生活。#### 晚上：5. **新街口/夫子庙夜景** - 晚上可以在夫子庙附近散步，欣赏夜晚的秦淮河灯光秀。6. **晚餐**：尝试南京火锅或烤肉，推荐“巷子深”或“南京大牌档”。---### **第三天：自然与休闲****交通预算**：约80元**景点预算**：约100元**餐饮预算**：约300元#### 上午：1. **玄武湖公园**（免费） - 南京最大的城市公园，适合散步、骑行或划船。 - 可以租一辆共享单车（约3元/小时）或租船游湖（约40元/小时）。2. **南京大屠杀纪念馆**（门票：免费） - 了解历史，感受和平的重要性。#### 下午：3. **中山植物园**（门票：50元） - 如果时间充裕，可以顺便参观，感受自然与植物的美妙结合。#### 晚上：4. **返程准备** - 根据返程时间，前往南京南站或机场，结束愉快的南京之旅。---### **总预算估算**：- **交通**：约300元（包括市内交通和景点之间交通）- **住宿**：约1000元- **餐饮**：约900元- **景点门票**：约500元- **其他**：约200元（纪念品、小吃等）**总计**：约3000元---### **小贴士**：1. 南京的地铁非常方便，可以购买地铁一日票（20元/人），覆盖大部分景点。2. 南京的景点大多集中在主城区，步行或骑行即可。3. 南京小吃种类繁多，记得尝试地道的盐水鸭和鸭血粉丝汤！希望这份行程能帮助你玩转南京，祝你旅途愉快！/opt/py3.10/lib/python3.10/tempfile.py:860: ResourceWarning: Implicitly cleaning up _warnings.warn(warn_message, ResourceWarning)小布另获悉
vLLM运行DeepSeek在MLU卡上
也是可以的哦
立即访问南京智算中心平台
体验 DeepSeek 大模型的强大能力
来源：江宁发布
免责声明：本站系转载，并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题，请在30日内与本站联系，我们将在第一时间删除内容!