跳到正文
IFAI

開源專案

Nace AI 釋出決策模型 Drex 技術報告:響應僅 183 毫秒,權重已開源

首次發布 傳播指數 53

Nace AI 釋出 51 頁技術報告,公佈開源決策模型 Drex 的訓練細節。它專門處理固定選項選擇,經由 115 萬條真實資料和大模型置信度校準訓練,響應僅需 183 毫秒。目前權重已開放下載,並在 Nace Console 提供免費測試。

Nace AI 釋出決策模型 Drex 技術報告:響應僅 183 毫秒,權重已開源
圖:x.com

很多業務流程不需要大模型寫出洋洋灑灑的小作文,只需要它在幾個固定選項裡快速給出一個靠譜的判斷。

Nace AI 釋出的 51 頁技術報告,正是衝著這個場景來的。這次披露的 Drex 決策模型家族專門用來從固定選項中挑出最可能的答案。

專攻單選題的輕量高手

Drex v1.5 的訓練基於 115 萬條帶有核實答案的真實決策樣本,覆蓋從審查合同到識別釣魚郵件等任務。

隨後,團隊通過更大尺寸的模型引入 RLAF 訓練,教它校準每一項答案的置信度,讓給出的機率百分比真正對齊實際準確率。

在實際測試中,Drex Max 標記一份疑似重複付款的發票,整輪呼叫成本還不到 1 美分。

根據 Nace 的測試資料,它的中位響應時間只有 183 毫秒,而同樣任務下 GPT-6 Sol 往往需要大約 2 秒。

目前 Drex Max、v2.0 和 v1.5 的程式碼與權重已經上線 Hugging Face,支援本地部署,普通使用者也可以在 Nace Console 上傳文件免費體驗。不過,Drex Max 1.1 以及針對金融場景的 Drex for Finance 依然保持閉源,專供企業客戶。

為什麼重要

我們認為,Nace AI 這步棋走得相當務實。在風控、稽核和郵件過濾這類高頻決策流水線上,用笨重的大語言模型不僅成本高,兩秒的延遲也太慢。Drex 把任務收斂到機率判斷,換來了毫秒級的響應和極低成本。

不過這類模型的侷限也很明顯,它只擅長封閉式的選項判斷,無法應對需要發散或多步複雜推理的開放任務。

但對開發者而言,如果你的業務痛點只是快速分類與風險篩查,把它部署在本地跑一跑,價效比會非常突出。

來源 (2)

  1. [1]
    x.com(在新分頁開啟)原文x.com
  2. [2]
    x.com(在新分頁開啟)討論x.com

每日 AI 內容精選