幻方量化旗下大模型廠商DeepSeek啟用硬盤緩存技術(shù)

界面快報(bào) · 來源：界面新聞

8月2日，私募巨頭幻方量化官微宣布，其探索AGI（通用人工智能）的新組織“深度求索（DeepSeek）”啟用上下文硬盤緩存技術(shù)，把預(yù)計(jì)未來會重復(fù)使用的內(nèi)容，緩存在分布式的硬盤陣列中。在大模型API的使用場景中，如果輸入存在重復(fù)，則重復(fù)的部分只需要從緩存讀取，無需計(jì)算。緩存命中的部分，DeepSeek費(fèi)用為0.1元每百萬tokens。

未經(jīng)正式授權(quán)嚴(yán)禁轉(zhuǎn)載本文，侵權(quán)必究。

幻方量化

1.1k
  • 幻方量化回應(yīng)舍棄對沖，業(yè)內(nèi)表態(tài)：不跟
  • 市場好轉(zhuǎn)、中性策略承壓，量化私募巨頭幻方量化宣布放棄中性策略

評論

暫無評論哦，快來評價一下吧！