OpenAI与博通10GW自研芯片进入系统测试：企业AI算力采购该重新算哪笔账？
OpenAI与博通的自研AI芯片合作，值得企业算力采购团队关注，但“进入系统测试”不等于“10GW算力已经可用”。目前能够从双方公开公告确认的是：两家公司计划共同开发包含OpenA……
25102026-10-13 15:17阅读 480
云计算25102026-10-13 15:17阅读 480
25102026-10-13 15:17阅读 480AI推理
标签"AI推理"下的所有文章
技术前沿15052026-10-04 18:09阅读 339
存算一体芯片走向AI推理：企业评估能效、精度与软件生态要看什么？
数据中心单卡功耗冲到 400 到 700 瓦、整机普遍超过 1 千瓦，而研究显示传统芯片执行 AI 任务时超过九成的能量不是花在计算上，而是花在把数据从内存搬到计算单元的路上。正是……
15052026-10-04 18:09阅读 339
技术前沿34722026-09-25 00:17阅读 292
AI推理服务如何做容量规划：从峰值请求到有效吞吐的测算方法
AI推理服务的容量规划，不应从芯片标称算力或一次压测的最高吞吐开始，而应从业务服务等级目标（SLO）倒推：在怎样的请求峰值、输入输出长度和并发形态下，系统仍能满足首字延迟、生成速度……
34722026-09-25 00:17阅读 292
技术前沿15052026-09-22 11:11阅读 445
AI推理缓存如何落地：企业评估命中率、数据一致性与隐私风险的决策框架
企业考虑部署 AI 推理缓存时，真正需要回答的不是“缓存能不能省钱”，而是“哪些请求可以安全复用、复用后能省下多少、失效和泄露风险由谁承担”。提示词缓存、KV 缓存、语义缓存和结果……
15052026-09-22 11:11阅读 445
技术前沿25102026-09-11 21:17阅读 236
AI推理基础设施如何验收：企业别只看峰值算力，还要评估有效吞吐、时延与软件栈
采购 AI 推理基础设施时，真正需要验收的不是芯片标称峰值，而是在指定模型、并发量、输入输出长度和服务等级目标下，系统能否稳定地产出可用 Token，并把时延、资源利用率、能耗、软……
25102026-09-11 21:17阅读 236
云计算25102026-09-09 14:04阅读 452
高通与亚马逊推进多代定制AI芯片合作：云端推理为何成为新战场
【软盟资讯·新闻导读】高通与亚马逊宣布开展覆盖多个产品世代的定制AI芯片合作，重点面向AWS人工智能基础设施和云端推理场景。资料显示，相关合作到2029财年的信息规模为150亿美元……
25102026-09-09 14:04阅读 452
信创国产化admin2026-09-07 12:39阅读 481
DeepSeek被曝采购16万颗华为昇腾950DT，算力国产化进入深度绑定阶段？
9月4日，彭博社援引知情人士消息称，DeepSeek计划在内蒙古乌兰察布的在建数据中心部署至少16万颗华为下一代昇腾950DT芯片，用于模型推理。若按计划落地，这将成为目前已知规模……
admin2026-09-07 12:39阅读 481AI资讯admin2025-02-10 18:23阅读 126
阿里云百炼上线全尺寸DeepSeek模型，企业AI应用部署将更便捷？
2025年2月9日，阿里云百炼平台传来重磅消息，全面上线了6款DeepSeek全尺寸模型，其中包括备受瞩目的DeepSeek-V3、DeepSeek-R1等。这一举措无疑为企业和开……
admin2025-02-10 18:23阅读 126