指南OneMux

GPT 6.1 Terra 成本與上下文指南:可靠的 JSON 擷取

了解如何估算 GPT 6.1 Terra 工作負載成本,並透過 OneMux 使用 JSON Schema 驗證來限制結構化擷取的上下文、重試次數與輸出 token。

文章目錄

GPT 6.1 Terra:估算 API 成本並限制 JSON 擷取 agent

對結構化擷取而言,重點不只是 GPT 6.1 Terra 能否讀取發票或表單,而是每次嘗試是否具備可預測的上下文大小、輸出上限、重試政策與驗證步驟。如此一來,工作流程更容易編列預算,也更安全可靠。

發布資料將 Terra 描述為適合例行電腦工作的模型,包括讀取螢幕、操作應用程式、填寫表單與處理收到的發票。資料也指出其影像理解能力有所提升,且公布的價格低於前代模型。這些是 OpenAI 自身報告中的主張,並非獨立評估。詳情請參閱所提供的 The New Stack 來源報告。

本指南聚焦於較明確的實作:從文件或螢幕擷取欄位、回傳符合 schema 的 JSON、在應用程式中驗證,並只在重試可能有效時進行重試。

決策:需要受限擷取時使用 Terra

當工作負載同時包含例行的視覺或文字理解,以及後續的結構化操作時,GPT 6.1 Terra 是合理的候選方案。例如,擷取發票號碼與總額、讀取表單欄位,或將文件轉換為會計或支援系統所需的記錄。

來源指出 Terra 能讀取螢幕並與應用程式互動。來源也報告,OpenAI 的測試發現,在最低設定下,其事實錯誤率較低,命令列程式設計表現也優於前代模型。這些報告結果並不保證發票擷取效果,來源也未證實其 JSON Schema 驗證分數。你的應用程式仍需要確定性的驗證、可觀測性與失敗處理路徑。

對於更困難的任務,所提供的來源表示 OpenAI 建議在最具挑戰性的程式設計工作中使用 Sol 或 Astra。這項比較針對的是程式設計能力,而非結構化擷取,因此不應將其用作文件工作流程的排名依據。

透過 OneMux 使用 GPT 6.1 Terra 的定價

以下是 OneMux 公布的價格快照,擷取時間為 2026-10-30 at 09:00:04.984Z。價格保留目錄中的計費單位:每 1 million tokens 的美元價格。這是公布的快照,不是即時基準測試。

GPT 6.1 Terra 價格依據官方價格OneMux 價格公布價格比
輸入 tokens,≤272K context$1 per 1M$0.156 per 1M0.156
輸出 tokens,≤272K context$5 per 1M$0.78 per 1M0.156
輸入 tokens,>272K context$2 per 1M$0.312 per 1M0.156
輸出 tokens,>272K context$7.5 per 1M$1.17 per 1M0.156

Terra 列出的上下文視窗為 1M tokens,且超過 272K tokens 時適用另一個計費級別。請勿將 ≤272K 價格套用到超過該文件化級別界線的請求。快取價格也會依級別與快取操作而異。在 ≤272K 級別中,目錄列出的 OneMux 快取讀取價格為每 1M tokens $0.0078、快取寫入價格為每 1M tokens $0.195、12 小時快取寫入價格為每 1M tokens $0.39。快取價格不等於免費輸入,未知值也不應視為零。

工作負載估算範例

假設每次擷取嘗試使用 100,000 個輸入 tokens,並產生 2,000 個輸出 tokens。兩者都在 ≤272K 級別內。計算如下:

  • 輸入:0.1 million × $0.156 = $0.0156
  • 輸出:0.002 million × $0.78 = $0.00156
  • 每次嘗試總計:$0.01716

若有 10,000 份文件且每份只嘗試一次,估算成本為 $171.60,前提是每個請求都具有相同的 token 配置,且沒有快取或級別變化。若 5% 的文件各產生一次額外的付費嘗試,工作負載就會變成 10,500 次嘗試,估算成本為 $180.18。這是算術估算,不是使用量保證。

較大的請求可能改變結果。若輸入為 300,000 tokens、輸出為 3,000 tokens,則適用 >272K 費率:

  • 輸入:0.3 million × $0.312 = $0.0936
  • 輸出:0.003 million × $1.17 = $0.00351
  • 總計:$0.09711 per attempt

實務上的成本控制重點,是刪除不相關的文件歷史,並避免在擷取不需要時傳送過大的 agent 轉錄內容。

限制上下文、重試與輸出 tokens

可靠的擷取 worker 應設定四項彼此獨立的限制:

  1. 上下文限制: 盡可能將文件加指示的大小上限設在計費級別界線以下。若檔案更大,應進行分塊、摘要,或交由獨立工作流程處理,而不是默默跨越級別。
  2. 輸出限制: 根據 schema 設定適當的回應 token 上限。發票記錄可能比長篇敘述需要少得多的 tokens。限制應為有效 JSON 留出足夠空間,但不能允許意外產生文章式回應。
  3. 重試限制: 對格式錯誤的 JSON 或暫時性傳輸錯誤,先從零次或一次重試開始。不要重試每一項業務規則失敗;缺少發票號碼可能需要人工審查或更好的擷取提示,而不是再次重複。
  4. 嘗試預算: 追蹤每份文件與每個批次的總嘗試次數。預算用盡時停止,並將項目放入審查佇列。

實用的政策是先在本機驗證回傳物件、分類錯誤,然後只對可恢復的錯誤類別進行重試。保留原始回應以便診斷,但不要自動將每次失敗的回應都附加到下一個提示中;這可能擴大上下文並增加成本。

JSON Schema 擷取模式

確切的結構化輸出參數名稱與端點行為取決於文件化的 OpenAI 相容介面。在部署前,請參閱 OneMux quickstart 與 API 文件,確認支援的參數。以下 Python 模式展示工作流程;端點 placeholder 必須替換為文件中指定的值。

import json
from jsonschema import validate, ValidationError
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_ONEMUX_API_KEY",
    base_url="YOUR_DOCUMENTED_ONEMUX_ENDPOINT",
)

schema = {
    "type": "object",
    "required": ["invoice_number", "invoice_date", "total", "currency"],
    "additionalProperties": False,
    "properties": {
        "invoice_number": {"type": "string"},
        "invoice_date": {"type": "string"},
        "total": {"type": "number"},
        "currency": {"type": "string", "minLength": 3, "maxLength": 3}
    }
}

response = client.chat.completions.create(
    model="GPT 6.1 Terra",
    messages=[
        {"role": "system", "content": "Extract only the requested invoice fields."},
        {"role": "user", "content": document_text}
    ],
    response_format={"type": "json_schema", "json_schema": {
        "name": "invoice",
        "strict": True,
        "schema": schema
    }},
    max_tokens=300
)

record = json.loads(response.choices[0].message.content)
validate(instance=record, schema=schema)

此範例假設端點支援所示的結構化輸出格式與 max_tokens 參數。若文件化介面使用其他參數名稱,或不支援 JSON Schema 回應強制功能,仍應保留本機解析與 jsonschema 驗證,並將不支援的結構化輸出參數視為設定問題,而不是模型失敗。

常見失敗的疑難排解

請求超過 272K 級別。 測量完整請求,包括指示、文件文字、圖片或圖片表示內容,以及保留的對話上下文。移除未使用的歷史內容,或在重試前拆分文件。

回應是有效 JSON,但未通過 schema。 將語法錯誤與語意錯誤分開處理。有效的 JSON 物件仍可能缺少欄位、類型錯誤或包含未預期的屬性。可使用簡潔的修正訊息重試一次,持續失敗則交由審查。

模型將數字回傳為文字。 根據你的會計規則決定是否接受強制轉型。對財務記錄而言,應明確驗證貨幣與數值範圍,而不是默默轉換所有值。

重試導致成本意外增加。 記錄每份文件的嘗試次數,並使用實際輸入與輸出 token 數計算成本。帶著完整先前轉錄內容進行重試,成本可能高於乾淨且較短的重試。

結論

只要將上下文、輸出、驗證與重試視為彼此獨立的控制項,GPT 6.1 Terra 就能支援成本受限的擷取管線。從小型 schema 開始、限制回應、測量實際 token 使用量,並維持嚴格的重試政策。OneMux 提供通往 Terra 的實用 OpenAI 相容路由,並公布相關的輸入、輸出、快取與上下文級別價格,讓團隊能在投入更大批次前先建立工作負載成本模型。

如需目前的模型可用性,請查看 GPT 6.1 Terra 模型頁面,並將工作負載假設與 OneMux 模型目錄進行比較。

來源

公布的價格快照

擷取時間為 2026-10-30T09:00:04.989Z,來源為 OneMux 公布的目錄。價格保留網站計費單位;這不是即時基準測試。分級、快取或以時間計算的計費可能有所不同。未知值不等於零。

模型官方輸入官方輸出OneMux 輸入OneMux 輸出公布價格比
GPT 6.1 Terra$1$5$0.156$0.780.156

OneMux 目前價格。只有在輸入/輸出與計費單位一致時,才能比較工作負載成本;級別條件請參閱各模型頁面。

常見問題

透過 OneMux 使用 GPT 6.1 Terra 的成本是多少?

在公布的 ≤272K 上下文級別中,OneMux 列出的價格為每 1 million input tokens $0.156,以及每 1 million output tokens $0.78。超過 272K context 時,列出的價格為每 1 million input tokens $0.312,以及每 1 million output tokens $1.17。該快照擷取於 2026-10-30。

應如何估算 Terra 擷取工作負載的成本?

將輸入 tokens(以 millions 計)乘以適用的輸入費率,再將輸出 tokens(以 millions 計)乘以適用的輸出費率,兩者相加即可得到每次嘗試的成本。接著將預期重試、快取操作,以及超過 272K 上下文級別的請求納入考量。

JSON Schema 能保證擷取資料正確嗎?

不能。Schema 驗證可以強制結構、必填欄位、類型與允許的屬性,但無法證明某個值已從文件中正確讀取。請加入業務規則檢查、範圍檢查,以及針對不確定記錄的審查路徑。

結構化擷取適合採用什麼重試政策?

先分類失敗類型。對格式錯誤的輸出或暫時性傳輸問題,重試一次可能合理;持續的業務規則失敗通常應交由審查。請設定每份文件的嘗試次數上限,並避免將不必要的失敗轉錄內容帶入下一個請求。

我可以使用 OpenAI SDK 搭配 OneMux 的 GPT 6.1 Terra 嗎?

OneMux 透過 OpenAI 相容 API 提供存取。是否相容於特定 SDK、端點、模型識別碼與結構化輸出參數集合,取決於文件化介面;因此部署前請在 OneMux quickstart 與 API 文件中確認這些細節。

相關文章