8月29日,百度搜索AI助手已全量上線極速大模型,其自研技術能夠大幅提升搜索結果生成速度。對比DeepSeek V3.1,在效果持平情況下,生成速度是其5倍,而調用成本僅為70%。
據悉,該技術聚焦大模型中最耗時、最燒錢的推理環節,全面優化百度AI助手的生成速度、調用成本和使用效果。在該技術加持下,百度AI助手的首token返回時間縮短39%,回答吐字速度加快500%,為行業最快。
8月29日,百度搜索AI助手已全量上線極速大模型,其自研技術能夠大幅提升搜索結果生成速度。對比DeepSeek V3.1,在效果持平情況下,生成速度是其5倍,而調用成本僅為70%。
據悉,該技術聚焦大模型中最耗時、最燒錢的推理環節,全面優化百度AI助手的生成速度、調用成本和使用效果。在該技術加持下,百度AI助手的首token返回時間縮短39%,回答吐字速度加快500%,為行業最快。