速度的职业新纪录。据智通财经APP报导，其Azure ND GB300v6虚拟机在Meta的Llama2 70B模型上完成了每秒110万个token的惊人推理速度，标志着AI算力范畴又一次重大打破。这一成果不只表现了微软在AI基础设施上的继续投入，也展现了英伟达最新

  Azure ND GB300v6虚拟机选用了英伟达的GB300 NVL72体系，该体系集成了72个NVIDIA Blackwell Ultra GPU和36个NVIDIA Grace CPU，选用单机架构规划。这款虚拟机专为推理作业负载优化，相较于上一代GB200，在推理性能上进步了27%，而功耗仅增加了17%。这一改善得益于Blackwell Ultra架构的优化，包含50%的GPU内存进步和16%的热规划功率（TDP）进步。微软首席执行官萨提亚·纳德拉在社会化媒体上标明，这一成果源于微软与英伟达的长时间协作以及在生产规模运转人工智能方面的专业知识。

  这一里程碑式的打破，不只是速度上的进步，更重要的是它在一个可以很好的满意现代企业动态运用和数据管理需求的平台上完成。Signal65的实验室副总裁拉斯·费洛斯指出，Azure ND GB300v6的推出，将加快AI推理使用在企业中的落地，推进更多立异使用的呈现。结合全网查找的内容，咱们正真看到微软也在活跃探索将AI技能融入到Windows体系的“设置”功用中，经过NPU（神经处理单元）完成本地化运转，进步运用者实在的体会。一起，微软与AMD、英特尔、高通等芯片厂商的协作，也表现了在硬件层面进行深度优化的重要性。

  英伟达在AI范畴的领头羊毋庸置疑。从全网查找的内容来看，英伟达正活跃与OpenAI、CoreWeave、微软等公司协作，构建英国的人工智能基础设施，并计划在英国布置很多的Blackwell Ultra GPU。一起，英伟达也在活跃拓宽与英特尔的协作，扩大可服务总商场规模（TAM）。英伟达的这一系列行动，都标明其在稳固AI算力基础设施商场主导地位，并扩展护城河。而OpenAI与英伟达的协作，也印证了算力关于AI开展的重要性。

  微软与英伟达此次协作，再次证明了技能立异关于推进AI开展至关重要。跟着AI推理速度的不断的进步，咱们有理由等待更多立异使用的呈现，例如更智能的个人帮手、更高效的企业级使用等。从长远来看，AI基础设施的建造和优化，将成为推进整个职业开展的要害。你以为，在AI推理速度不断的进步的布景下，哪些使用场景会首先迸发？