中兴32B星云大模型 汲取DeepSeek训练精髓 开启低成本×高性能AI推理
随着人工智能技术的飞速发展，企业在推动AI技术落地时，不仅需要高性能的推理能力，更希望能够降低部署成本，提升应用效率。中兴通讯近日推出了NTele-R1-Lite-32B-v2星云大模型，这款仅有32B参数的轻量级大模型，不仅性能出众，而且显著降低了AI推理的
模型 推理 星云 ai推理 deepseek训练 2025-04-11 21:42 1
ai推理
日本 NTT 推出用于边缘低功耗视频处理的 AI 推理芯片
日本电报电话公司（NTT）推出一款专为边缘设备及功率受限终端视频处理设计的 AI 推理芯片。这款芯片以大规模集成电路（LSI）技术打造，性能卓越，可对 4K 分辨率、30 帧 / 秒的视频实现实时 AI 处理，极大地提升了边缘设备低功耗推理能力。
谷歌发布第七代TPU芯片 Ironwood AI 推理破纪录
作为 TPU 家族中首款完全聚焦推理任务的产品，Ironwood 的发布被业界视为 AI 技术发展的重要转折点。谷歌机器学习与云 AI 副总裁 Amin Vahdat 指出，该芯片将推动 AI 从 “数据处理工具” 升级为 “主动决策智能体”。通过优化架构设计
AI推理芯片，最新排名
在 MLCommons 发布的最新一轮机器学习基准测试结果中，基于 Nvidia 全新 Blackwell GPU 架构构建的计算机表现优于其他所有计算机。但 AMD 的最新 Instinct GPU MI325 却与其竞争对手Nvidia H200相媲美。两
港股异动｜万国数据-SW(09698)早盘涨超7% AI推理需求增长或带动公司国内数据中心空置率下降
华泰证券发布研报称，万国数据2024年实现营业收入103.22亿元，同比增长5.5%，实现调整后EBITDA48.76亿元，同比增长3%。4Q24公司国际业务正式完成B轮融资交割，交割后上市公司持有国际子公司35.6%的股权，不再合并报表。若从合并报表口径来看
港股异动 | 万国数据-SW(09698)早盘涨超7% AI推理需求增长或带动公司国内数据中心空置率下降
华泰证券发布研报称，万国数据2024年实现营业收入103.22亿元，同比增长5.5%，实现调整后EBITDA48.76亿元，同比增长3%。4Q24公司国际业务正式完成B轮融资交割，交割后上市公司持有国际子公司35.6%的股权，不再合并报表。若从合并报表口径来看
智能驾驶水面之下，“AI推理之争”暗流涌动
如果说，智能驾驶此前还在围绕VLM（视觉-语言模型）与VLA（视觉-语言-动作模型）、一段式与两段式、无图和有图等维度展开竞争，那么从今年开始，智驾竞争已悄然进入深水，一场更底层的较量正在算力集群与算法架构之间展开。
AI推理时代：边缘计算成竞争新焦点
近日，随着科技领域一系列动态的涌现，AI大模型的竞争焦点正加速向AI推理转移，AI推理时代已然来临，而边缘计算凭借其独特优势，成为这一新兴领域的竞争新战场。
大规模AI推理再非难事：如何在Kubernetes上部署DeepSeek
随着人工智能的持续发展，高效、大规模部署AI驱动应用程序变得至关重要。而编排平台Kubernetes在管理容器化AI工作负载、确保可扩展性、弹性以及降低管理难度等方面，无疑将发挥不可替代的作用。
推理 kubernetes deepseek po ai推理 2025-03-28 14:11 5
AI推理时代，边缘计算成新战场
自去年来，从Open AI推出O1推理模型，到Anthropic跟进推出非常依赖推理能力的“Computer Use”的Agent功能，再到DeepSeek R1推理模型在全球火爆，以及英伟达在GTC大会上亮相首款推理模型、首个推理软件等，这些科技巨头的动作一
英特尔前CEO基辛格：AI推理芯片待万倍提升，量子计算时代将来临
近日，英伟达GTC 2025大会的Acquired播客活动中，迎来了英特尔前掌舵人帕特·基辛格的身影。作为特邀嘉宾，他分享了对当前科技发展趋势的独到见解。
Oracle 与 NVIDIA 合作助力企业加速代理式 AI 推理
美国加利福尼亚州圣何塞 —— GTC —— 2025 年 3 月 18 日 ——Oracle 和 NVIDIA 今日宣布，NVIDIA 加速计算和推理软件与 Oracle 的 AI 基础设施以及生成式 AI 服务首次实现集成，以帮助全球企业组织加速创建代理式
AI推理快速成长，QLC NAND成新宠
AI推理服务器主要负责分析以及处理大量数据，而这类应用存取模式以读取为主，写入频率相对较低，正好契合QLC SSD的特性。
从芯片、软件到机器人 英伟达全力备战AI推理时代
相比2024年公司股价气势如虹、市值突破3万亿美元，今年英伟达需要面临更多算力需求质疑，股价走低。在美国时间3月18日主题演讲中，英伟达CEO黄仁勋强调AI推理时代算力需求更加旺盛，并推出新一代AI芯片以及配套系统、硅光网络交换机等新品，亮相首款推理模型、首款
AI推理重构新需求，江波龙如何布局，穿越存储产业周期？
面对传统消费电子需求的下降，以及DeepSeek等AI应用带来的新需求，存储行业正进入一场变革的“新长周期”。江波龙从消费电子到企业级，从存储主控到高端封测，从标准化到定制化，全方位综合创新，构建新商业模式。
Akamai与VAST Data合作推动边缘AI推理
据eenewseurope网3月18日报道，Akamai Technologies与VAST Data近日达成协议，旨在提升数据密集型AI推理的速度和效率。合作将结合Akamai的分布式平台与VAST的数据密集型计算方法，满足大型分布式客户的本地响应时间和AI
英伟达力挺DeepSeek-R1：新一代AI推理的革新者
DeepSeek-R1这一拥有6710亿参数的超大规模AI推理模型，现已正式进入NVIDIA NIM微服务预览版。开发者可在Build.nvidia.com上获取该服务，并在单个NVIDIA HGX H200系统上实现每秒3872个Token的推理速度。更重要
一家芯片初创公司，要颠覆AI推理市场
虽然制造出能够擅长多种事情的机器人（大多数当前只擅长重复做一件特定的事情）是古德温努力的重点，但他表示，当时在英国牛津机器人研究所进行研究时，他的兴趣不再是机器人能多好地拿起杯子，而是更多地关注扩展定律。
Snowflake 声称突破性技术可将 AI 推理时间削减超过 50%
Snowflake Inc. 今天宣布，它正在将一项技术整合到其托管的大语言模型中，据称这项技术可以显著降低人工智能推理的成本和时间。AI 推理是指使用经过训练的模型基于新的输入数据进行预测或生成输出。