格隆匯7月2日|美國大數據分析公司Palantir首席執行官Alex Karp對OpenAI及Anthropic等業者採用的Token計價模式提出嚴厲批判,直言該模式已“出現大毛病”。Karp表示:“我並非要貶低他們,但這套模式絕對出了問題。美國企業界的普遍認知是:與其浪費時間在那裏刷Token,不如放鬆休息。”“刷Token”指的是企業為追求模型輸出長度而耗費大量運算資源,卻忽略實質效益。隨着新一代AI模型比前代產品更加昂貴,企業正逐漸擺脱這種思維,轉而追求具體的投報率。這促使許多公司開始採用成本極低的開放權重模型,或是轉向構建自家的高效專有工具,以降低對通用大模型的高度依賴。在此趨勢下,Palantir本週稍早宣佈擴大與英偉達的合作,利用後者的AI工具為美國政府機構打造客製化模型。
Palantir執行長痛批AI大模型公司的Token計價模式
格隆匯7月2日|美國大數據分析公司Palantir首席執行官Alex Karp對OpenAI及Anthropic等業者採用的Token計價模式提出嚴厲批判,直言該模式已“出現大毛病”。Karp表示:“我並非要貶低他們,但這套模式絕對出了問題。美國企業界的普遍認知是:與其浪費時間在那裏刷Token,不如放鬆休息。”“刷Token”指的是企業為追求模型輸出長度而耗費大量運算資源,卻忽略實質效益。隨着新一代AI模型比前代產品更加昂貴,企業正逐漸擺脱這種思維,轉而追求具體的投報率。這促使許多公司開始採用成本極低的開放權重模型,或是轉向構建自家的高效專有工具,以降低對通用大模型的高度依賴。在此趨勢下,…