Google 发布 Gemini Decisions API 实现快速多模态决策
全新 Gemini Decision 1 模型支持单次处理 1,000 个问题,延迟仅为 150-250 毫秒。
与该主题相关的 AI 新闻与实践文章。
全新 Gemini Decision 1 模型支持单次处理 1,000 个问题,延迟仅为 150-250 毫秒。
Google 发布 TPU 8tx 用于安全推理,以及 TPU 8i Max 用于处理海量上下文窗口。
Cloud Pathways 在 GKE 上全面上线,提供单控制器架构、弹性训练和多切片编排,支持 TPU v5e 至 Ironwood。
微软发布Azure Databricks十月更新:Lakeflow实时管道GA、新增区域控制平面及模型退役。
Cohere 宣布 Model Vault 的保密计算功能已在 Microsoft Azure 上以 NVIDIA H100 GPU 进入公开测试,提供 GPU 内存保护和 OHTTP 加密。
NVIDIA 在 GTC Berlin 展示欧洲零售 AI 落地:Shopify、Zooplus、Photoroom 和 Omi 等公司提供成本、产品发现和数字孪生的具体结果。
Google Cloud 现在提供 Anthropic 托管的 Claude 模型选项,为团队提供访问新功能与治理之间的选择。
微软宣布推出 Maia 300,下一代 AI 推理平台,并计划从 2027 年起将 Azure MaIA 扩展到多吉瓦特级部署。
Meta 将舰队中的闲置推理容量转化为更好的广告推荐,使用两种弹性杠杆在不影响基线性能的前提下扩展工作。
微软称,GitHub Copilot 将于2026年10月底前为每项任务自动选择设备端或云端模型。文中本地模型的性能数据均为微软自述。
OpenAI称Ultrafast是其API中速度最快的服务档位。所有API用户均可将其用于GPT-6 Astra和GPT-6.1 Sol,但速率限制较低。
CoreWeave 为云端早期客户提供 NVIDIA Vera Rubin NVL72 系统及与 Spectrum‑X 网络技术整合的工具,助力 AI 代理开发。
Google DeepMind 公布了为 Private AI Compute 增加服务端持久化内存的计划,用户上下文将得以保留,而加密密钥仅存于个人设备。
GPT-6 现支持提示词缓存优化,提供最高 90% 的输入令牌折扣,并允许在不中断缓存的情况下调整推理参数。
亚马逊在 Bedrock 平台推出 GPT-6 Sol 和 GPT-6 Luna,提供更低的 API 调用成本、提示词缓存支持以及更高的生成准确性。
OpenAI 推出 GPT-6 Sol 和 Luna 模型,通过降低 API 成本并优化提示词缓存,为专业用户提升处理效率。
AWS 发布了 AgentCore 运行时,通过快照技术和内存动态回收机制,提升 AI 代理的冷启动性能和资源利用率。
Google Cloud 发布 Filestore Agent Volumes,旨在为 GKE 中的 AI 代理工作负载提供弹性且隔离的存储空间。
NVIDIA 公布了 Vera Rubin NVL72 系统在性能和能效方面的提升,旨在应对数据中心在运行复杂 AI 模型时的功耗约束。
Salesforce 与 AWS 推出多项集成更新,涵盖 CRM 数据接入、Slack AI 代理及 Amazon Bedrock 模型调用。
NVIDIA Personal AI Router (PAIR) 可将本地网络内的多台计算设备资源进行整合,显著提升多智能体工作流的执行效率。