科技中心/周宸妘報導
▲輝達今在官網上發布最新消息, 證實NVIDIA NIM平台也能夠使用DeepSeek R1。(圖/翻攝自NVIDIA官網)
中國AI新創公司深度求索(DeepSeek)上週推出低成本AI模型DeepSeek R1,引發全球各界關注。不過,輝達(NVIDIA)今(31)日宣布最新消息,證實NVIDIA NIM平台也能夠使用DeepSeek R1,為開發者提供全新選擇。
輝達官方發文表示,DeepSeek-R1是一個具有最先進推理能力的開放模型,與傳統型相比不會直接提供回應,DeepSeek-R1會針對問題進行多次推理及查詢,採用思路鏈、共識和搜尋方法以提供最佳答案與可靠性。
輝達進一步說明,DeepSeek-R1證明為何加速運算對於AI推理的需求至關重要,由於模型可以迭代地「思考」問題,因此它們會創建更多的輸出標記和更長的生成週期,模型品質也將持續提高。
為了幫助全球開發者能安全試驗這些功能並建立自己的專用代理,提供了NVIDIA NIM,讓DeepSeek-R1模型可在NVIDIA NIM微服務預覽版上使用。此外,開發人員可以使用應用程式介面 (API) 進行測試,預計很快就會作為可下載的NIM微服務提供,是NVIDIA AI Enterprise軟體平台的一部分。