一 |
二 | 上海之江生物 供图9月13日，澎湃新闻（www.thepaper.cn）记者从上海之江生物科技股份有限公司获悉这一消息。一台“小青耕”搭载了48个PCR扩增反应孔，可在2小时内完成48管样本的检测。 以下为对话实录： 提问：这次WAIC，海光展示了嵌入式AI的布局，算力从云端往端侧走，您觉得最大的应用机会在哪些场景？ 杜夏威：端侧确实是AI一个非常重要的入口。
三 | 这次不管是会场的报告，还是我们展出的产品方案，都在强调云边端全域的协同。如果搭配20混1方案，2小时内至少可完成960人份样本，单次检测通量1-48样本灵活设置，可有效提高门、急诊核酸筛查与复核效率，缓解人员不足的矛盾，也可快速提升医疗机构、疾控中心、机场口岸等的全自动核酸检测能力。
四 | 同时，“小青耕”将核酸检测流程的各模块高度集成，占地面积小于0.4㎡，极大程度节约实验室紧张的空间，有限空间内最大程度提升核酸检测能力。同时搭载全封闭负压系统、紫外消杀和HEPA高效过滤系统，达到生物安全二级标准，全面保护检验人员操作安全。早在2022年4月，上海之江生物另一款核酸检测一体机“青耕一号”也已获批上市。“青耕一号”能连续运转24小时，可全自动化实现单管检测4500管，如果采用20混1方案，日检测量最高可达9万人次，且24小时连续工作仅需人工干预4次进行耗材移放，能快速提升上海尤其机场口岸、医疗机构等区域的大规模核酸检测能力。因为端侧的触达面与数据中心端处于整个链条的两端，依托端侧产品可以更多地去拓展和覆盖市场侧的需求。而与“青耕一号”相比，“小青耕”功能集约紧凑但全面，单台设备仅45Kg，可放置桌面，适用于各类实验室，包括发热门诊、急诊以及移动车载等空间环境相对有限的场所，快速灵活解决个性化需求。 同时，端侧与数据中心端之间也有相应的耦合与协同。数据中心提供的强劲算力以及Token输送，一方面可以支撑端侧的应用场景，另一方面也可以作为端侧的高端算力补充。
五 | 在Token快速发展的背景下，这样的方式能够更有效地实现市场用户和场景侧的覆盖。上海之江生物科技股份有限公司方面透露，当前，该公司还在开发更多核酸检测一体机可搭载检测项目，致力于减少病人检查多头跑、等待时间长的难题，为分子诊断领域作出更多贡献。 提问：海光DCU一直在强调开放架构，从实际落地来看，开放架构给开发者和合作伙伴带来的最大便利是什么？ 杜夏威：海光始终在坚持开放的原则，这里面有几个维度的考量。返回搜狐，查看更多责任编辑：
六 | 具体而言，我们一方面逐步开源开放自身的软件栈，另一方面联合国产GPGPU生态中的不同芯片厂商，推动软件栈和统一接口层面的开放合作，尽可能降低用户在不同芯片之间切换的额外时间和人力成本。 第三个维度是，希望通过这样的动作，引领和带动国产GPGPU厂商和生态的良性发展。整个产业链条的健壮和良性循环，是所有芯片厂商和模型公司实现可持续发展的前提和基础。 提问：您此前提出过“算力指标”与“Token吞吐量”并重的观点。本届WAIC上，海光更想传递的是算力有多强，还是算力转化为Token的效率有多高？ 杜夏威：我们始终坚持以端到端的视角来看待底层算力对上层业务的支持。无论是之前大家谈论大模型兼容度，还是后来谈论模型适配和Token吞吐量，我们最核心的检验指标始终是：海光DCU芯片能否有效支撑上层的业务逻辑。 因此，如果行业普遍以Token作为衡量单位来评价芯片或模型的算力、智能化程度，我们也倾向于以同样的视角、结合用户习惯，来评价海光DCU对上层的支撑能力。这一次WAIC，我们就是按照这样的逻辑来呈现自身的技术和产品的。 提问：海光DCU已在20多个关键行业、300多个应用场景落地，但在大模型推理商业化方面，行业普遍面临算力投入高、回报周期长的困境。
七 | 海光如何帮助客户缓解这个问题？ 杜夏威：我们主要从两个视角来推进。 第一个视角是作为算力供应方，要把握好自身的技术和产品，保障对模型快速迭代的有效支撑。
八 | 过去一段时间，我们积极推进了市面上几乎所有主流大模型的适配，同时也在打磨芯片对上层Token吞吐的效率。 第二个视角是，这次WAIC我们也在积极呼吁，站在光合组织的角度，倡导产业链共同关注Token经济的良性循环，我们不希望重蹈当年软件行业在价值变现和商业闭环上的覆辙。 Token性价比的提升，是整个产业链共同努力的结果，我们应该享受这样的红利。但同时，我们也不应该以低价来衡量算力、模型和Token产业的价值，而应该突出它们对产业变革的贡献。 性价比会随着技术迭代持续提升，但与此同时，必须保障产业链各环节获得合理的商业利益，这样才能形成正向循环。 提问：您刚才提到Token正在成为AI时代的“数字石油”。对普通企业来说，Token经济到底意味着什么？它会怎样改变企业使用AI的方式？ 杜夏威：Token的使用已经渗透到了个人层面，很多To C业务都能感受到Token带来的变化。对于B端用户，无论体量大小，都应该积极拥抱Token经济，尤其是中小企业，它们既是产业上下游的长尾，也是未来产业发展的新生力量，需要重点支持。 我们通过两种方式来支撑中小企业。一种是通过云原生的算力和Token服务，让中小企业无需自建即可便捷地获取Token，尝试以大模型或智能体来升级业务。另一种是，对于身处高精尖或细分领域的企业，我们提供符合其预期的私有化算力规模，保障敏感数据和高价值资产能够在企业自己的业务体系内安全使用。 “云上+私有化”两种方式并行，既能提供低资产投入、高便捷性的云上Token服务，也能提供符合质量需求的中小规模私有化部署。当企业需要快速迭代时，通过云上算力来支持；当业务进入可闭环状态时，通过私有化部署来保障数据安全和Token质量。 提问：海光在软件栈建设上，从“可用”到“好用”目前走到了哪一步？ 杜夏威：我们现在已经不再仅仅强调“可用”了。Day0级的适配已经非常普遍，我们更多关注的是是否能够开箱即用、开箱即好用，通过性能和Token吞吐来保障用户体验。 此外，我们也开始转向前瞻性布局，推动芯片与模型的紧耦合协同。我们已经针对部分大模型厂商的下一代模型迭代，提前开展芯片与模型的协同适配。
九 | 这样才能从根本上解决问题，确保发布即可用，可用即好用。 提问：今年超节点非常热，去年很多还在发布阶段，今年已经落地了。您认为接下来最大的瓶颈是什么？ 杜夏威：超节点成为WAIC的热点，呼应了模型快速迭代、走向更大规模参数量的趋势。
十 | 海光的超节点今年已进入量产状态，我们联合光合组织上下游及整机合作伙伴，推出了基于海光CPU/DCU芯片的超节点方案。
十一 | 除了硬件本身的量产，我们还需要关注服务能力的打磨，特别是软件栈的完善度。
十二 | 在大模型推理场景中，PD分离和PV Cache缓存等技术手段对性能效率的提升至关重要。
十三 | 另一个值得关注的问题是，随着超节点规模扩大，故障率也会随之上升。海光在这方面积累了较多经验，在训练侧和推理侧的故障管控与快速恢复方面，已形成了一套成熟机制和软件补偿方案。
十四 | 所以接下来需要重点推进两个维度：一是软件系统工程化来保障最优性能，二是可用性与稳定性来保障大规模部署后的服务可持续性。
十五 | 提问：现在大模型能做到万卡级的已经不多了，但十万卡级其实没有一个单一的模型能完全撑满。这是否意味着未来的超节点要支撑多个大模型进行异构运算？这会带来什么问题？ 杜夏威：以万卡或十万卡支撑单一用户时，国内真正做基模的厂商是聚焦的。他们需要持续的模型迭代，对训练集群几乎是锁定状态，可能每个月都要完成一次模型迭代。因此，我们要有能力提供十万卡级的单一系统，来支撑单一模型的训练和持续迭代，这是我们具备的能力之一。 另一个维度是推理侧，现在已经进入海量并发的状态。用户喜欢用什么模型，我们不应绑定或限制。未来的十万卡集群还需要保障另一种能力：在高并发下，支撑各类头部模型实现高性能的Token吞吐。 这两种场景的特点完全不同，对我们的考验也不一样，所以我们需要围绕海光芯片的十万卡交付，同时做好这两个层面的部署和支持。
十六 |
Current article:http://jyfr.bianneixuanbingqinyouxie.buzz/tni1/20260826/1100116.html
Published on:12:33:53
贵州省卫生健康委员会卫生计生监督局原党委书记周亮被“双开”
上半年经济增长4.7%说明了什么？
美国加州一仓库起火 一名消防员受伤
全国首单特需家庭多类型资产服务信托在北京东城落地,全国首单特需家庭多类型资产服务信托在北京东城落地
'Floating Lights' Seen in Night Sky Near San Diego Leave Netizens Scratching Their Heads
Beijing designated as World Capital of Architecture 2029
