Hướng dẫn chi phí và ngữ cảnh GPT 6.1 Terra cho trích xuất JSON đáng tin cậy

GPT 6.1 Terra: Ước tính chi phí API và giới hạn agent trích xuất JSON

Đối với việc trích xuất có cấu trúc, câu hỏi hữu ích không chỉ là GPT 6.1 Terra có thể đọc hóa đơn hoặc biểu mẫu hay không. Vấn đề là mỗi lần thử có kích thước ngữ cảnh, giới hạn đầu ra, chính sách retry và bước xác thực có thể dự đoán được hay không. Điều đó giúp quy trình dễ lập ngân sách hơn và an toàn hơn khi vận hành.

Phạm vi ra mắt mô tả Terra là model dành cho các công việc máy tính thường nhật, bao gồm đọc màn hình, thao tác qua ứng dụng, điền biểu mẫu và xử lý hóa đơn đến. Phạm vi này cũng báo cáo khả năng hiểu hình ảnh được cải thiện và mức giá được nêu là thấp hơn model tiền nhiệm. Đây là các tuyên bố từ báo cáo của chính OpenAI, không phải một đánh giá độc lập. Xem báo cáo nguồn từ The New Stack để biết các chi tiết ra mắt được cung cấp.

Hướng dẫn này tập trung vào một cách triển khai hẹp hơn: trích xuất các trường từ tài liệu hoặc màn hình, trả về JSON tuân theo schema, xác thực trong ứng dụng và chỉ retry khi retry có thể giúp ích.

Quyết định: sử dụng Terra khi việc trích xuất có giới hạn là yếu tố quan trọng

GPT 6.1 Terra là một lựa chọn hợp lý khi workload kết hợp khả năng diễn giải hình ảnh hoặc văn bản thường nhật với một hành động có cấu trúc ở bước tiếp theo. Ví dụ gồm trích xuất số hóa đơn và tổng tiền, đọc các trường biểu mẫu hoặc chuyển tài liệu thành các bản ghi cho hệ thống kế toán hay hỗ trợ.

Nguồn cho biết Terra có thể đọc màn hình và tương tác với ứng dụng. Nguồn cũng báo cáo rằng các thử nghiệm của OpenAI cho thấy tỷ lệ lỗi thực tế thấp hơn ở thiết lập thấp nhất và hiệu suất lập trình dòng lệnh tốt hơn model tiền nhiệm. Các kết quả được báo cáo này không đảm bảo hiệu quả trích xuất hóa đơn, và nguồn không đưa ra điểm số xác thực JSON Schema. Ứng dụng của bạn vẫn cần xác thực xác định, khả năng quan sát và đường xử lý lỗi.

Đối với tác vụ khó hơn, nguồn được cung cấp cho biết OpenAI khuyến nghị Sol hoặc Astra cho công việc lập trình khó nhất. So sánh này nói về năng lực lập trình, không phải trích xuất có cấu trúc, vì vậy không nên dùng nó làm bảng xếp hạng cho quy trình tài liệu của bạn.

Giá GPT 6.1 Terra thông qua OneMux

Dưới đây là bản chụp giá OneMux được công bố, được ghi nhận vào 2026-10-30 at 09:00:04.984Z. Giá giữ nguyên đơn vị thanh toán trong catalogue: đô la trên 1 triệu token. Đây là bản chụp giá được công bố, không phải benchmark trực tiếp.

Terra có context window được liệt kê là 1M token, với một cấp thanh toán riêng cho mức trên 272K token. Không áp dụng mức giá ≤272K cho request vượt qua ranh giới cấp được ghi nhận. Giá cache cũng thay đổi theo cấp và thao tác cache. Trong cấp ≤272K, catalogue liệt kê mức giá OneMux cho cache-read là $0.0078 per 1M tokens, cache-write là $0.195 per 1M tokens và cache-write 12 giờ là $0.39 per 1M tokens. Giá cache không giống với input miễn phí, và các giá trị chưa biết không được coi là bằng không.

Ví dụ ước tính workload

Giả sử một lần thử trích xuất sử dụng 100,000 token đầu vào và tạo ra 2,000 token đầu ra. Cả hai đều nằm trong cấp ≤272K. Phép tính là:

• Input: 0.1 million × $0.156 = $0.0156
• Output: 0.002 million × $0.78 = $0.00156
• Tổng mỗi lần thử: $0.01716

Với 10,000 tài liệu, mỗi tài liệu thử một lần, ước tính là $171.60, giả định mọi request có cùng hồ sơ token và không có thay đổi về cache hoặc cấp ngữ cảnh. Nếu 5% số tài liệu tạo thêm một lần thử có tính phí, workload sẽ thành 10,500 lần thử và ước tính là $180.18. Đây là ước tính số học, không phải cam kết về mức sử dụng.

Một request lớn hơn có thể làm thay đổi kết quả. Với 300,000 token đầu vào và 3,000 token đầu ra, mức giá >272K được áp dụng:

• Input: 0.3 million × $0.312 = $0.0936
• Output: 0.003 million × $1.17 = $0.00351
• Tổng: $0.09711 per attempt

Bài học thực tế để kiểm soát chi phí là cắt bỏ lịch sử tài liệu không liên quan và tránh gửi transcript agent quá lớn khi việc trích xuất không cần đến chúng.

Giới hạn ngữ cảnh, retry và token đầu ra

Một worker trích xuất đáng tin cậy nên áp dụng bốn giới hạn độc lập:

1. Giới hạn ngữ cảnh: Đặt kích thước tối đa cho tài liệu cộng hướng dẫn, thấp hơn ranh giới cấp thanh toán khi có thể. Nếu tệp lớn hơn, hãy chia nhỏ, tóm tắt hoặc chuyển qua một workflow riêng thay vì âm thầm vượt cấp.
2. Giới hạn đầu ra: Đặt mức trần token phản hồi phù hợp với schema. Một bản ghi hóa đơn có thể cần ít token hơn nhiều so với một bài tường thuật dài. Giới hạn phải đủ chỗ cho JSON hợp lệ nhưng không cho phép vô tình tạo ra một bài luận.
3. Giới hạn retry: Bắt đầu với không retry hoặc một lần retry đối với JSON sai định dạng hay lỗi truyền tải tạm thời. Không retry mọi lỗi quy tắc nghiệp vụ; số hóa đơn bị thiếu có thể cần được xem xét hoặc cần prompt trích xuất tốt hơn, chứ không nhất thiết cần lặp lại.
4. Ngân sách lần thử: Theo dõi tổng số lần thử trên mỗi tài liệu và mỗi batch. Dừng khi hết ngân sách và đưa mục đó vào hàng đợi xem xét.

Một chính sách hữu ích là xác thực object trả về ở cục bộ, phân loại lỗi và chỉ retry một nhóm lỗi có thể khắc phục. Giữ lại phản hồi ban đầu để chẩn đoán, nhưng không tự động nối mọi phản hồi thất bại vào prompt tiếp theo; việc đó có thể làm tăng ngữ cảnh và chi phí.

Mẫu trích xuất JSON Schema

Tên tham số đầu ra có cấu trúc và cách endpoint hoạt động chính xác phụ thuộc vào interface tương thích OpenAI được ghi nhận. Hãy xác nhận các tham số được hỗ trợ trong quickstart OneMux và tài liệu API trước khi triển khai. Mẫu Python sau đây minh họa workflow; placeholder endpoint phải được thay bằng giá trị được ghi nhận.

import json
from jsonschema import validate, ValidationError
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_ONEMUX_API_KEY",
    base_url="YOUR_DOCUMENTED_ONEMUX_ENDPOINT",
)

schema = {
    "type": "object",
    "required": ["invoice_number", "invoice_date", "total", "currency"],
    "additionalProperties": False,
    "properties": {
        "invoice_number": {"type": "string"},
        "invoice_date": {"type": "string"},
        "total": {"type": "number"},
        "currency": {"type": "string", "minLength": 3, "maxLength": 3}
    }
}

response = client.chat.completions.create(
    model="GPT 6.1 Terra",
    messages=[
        {"role": "system", "content": "Extract only the requested invoice fields."},
        {"role": "user", "content": document_text}
    ],
    response_format={"type": "json_schema", "json_schema": {
        "name": "invoice",
        "strict": True,
        "schema": schema
    }},
    max_tokens=300
)

record = json.loads(response.choices[0].message.content)
validate(instance=record, schema=schema)

Ví dụ này giả định endpoint hỗ trợ format đầu ra có cấu trúc được nêu và tham số max_tokens. Nếu interface được ghi nhận sử dụng tên tham số khác hoặc không hỗ trợ áp dụng JSON Schema cho phản hồi, hãy duy trì việc phân tích cú pháp cục bộ và xác thực bằng jsonschema, đồng thời coi các tham số đầu ra có cấu trúc không được hỗ trợ là vấn đề cấu hình chứ không phải lỗi model.

Khắc phục các lỗi thường gặp

Request vượt qua cấp 272K. Đo toàn bộ request, bao gồm hướng dẫn, văn bản tài liệu, hình ảnh hoặc biểu diễn hình ảnh và ngữ cảnh hội thoại được giữ lại. Xóa lịch sử không dùng đến hoặc chia tài liệu trước khi retry.

Phản hồi là JSON hợp lệ nhưng không đạt schema. Tách lỗi cú pháp khỏi lỗi ngữ nghĩa. Một object JSON hợp lệ vẫn có thể thiếu trường, sai kiểu hoặc chứa thuộc tính không mong muốn. Retry một lần với thông báo sửa lỗi ngắn gọn, sau đó chuyển các lỗi kéo dài sang bước xem xét.

Model trả về một số dưới dạng văn bản. Quyết định xem việc ép kiểu có chấp nhận được theo quy tắc kế toán của bạn hay không. Với bản ghi tài chính, hãy xác thực tiền tệ và phạm vi số một cách rõ ràng thay vì âm thầm chuyển đổi mọi giá trị.

Retry làm chi phí tăng bất ngờ. Ghi lại số lần thử trên mỗi tài liệu và tính chi phí bằng số token đầu vào và đầu ra thực tế. Một lần retry với toàn bộ transcript trước đó có thể tốn kém hơn một lần retry mới, ngắn hơn.

Kết luận

GPT 6.1 Terra có thể hỗ trợ pipeline trích xuất được giới hạn chi phí khi việc triển khai xem ngữ cảnh, đầu ra, xác thực và retry là các cơ chế kiểm soát riêng biệt. Hãy bắt đầu với schema nhỏ, giới hạn phản hồi, đo mức sử dụng token thực tế và giữ chính sách retry ở phạm vi hẹp. OneMux cung cấp một route tương thích OpenAI thực tiễn đến Terra và công bố các mức giá đầu vào, đầu ra, cache cũng như cấp ngữ cảnh liên quan để các nhóm có thể lập mô hình chi phí workload trước khi thực hiện batch lớn hơn.

Để biết model hiện đang khả dụng, hãy xem trang model GPT 6.1 Terra và đối chiếu các giả định workload với catalogue model OneMux.

Nguồn

• The Next Web: OpenAI launches GPT-6.1 Terra — phạm vi ra mắt và các tuyên bố về model được cung cấp.
• GPT 6.1 Terra trên OneMux — thông tin model và giá theo cấp được công bố.
• Giá OneMux — bản chụp giá được công bố và tham chiếu ở trên.

Bản chụp giá được công bố

Được ghi nhận vào 2026-10-30T09:00:04.989Z từ catalogue được công bố của OneMux. Giá giữ nguyên đơn vị thanh toán trên website; đây không phải benchmark trực tiếp. Cách tính theo cấp, cache hoặc thời gian có thể khác. Các giá trị chưa biết không bằng không.

Giá OneMux hiện tại. Chỉ so sánh chi phí workload khi input/output và đơn vị thanh toán tương đồng; xem trang của từng model để biết các điều kiện theo cấp.