Salesforce Koa chứng minh Enterprise Tool Calling hiệu quả: Đội ngũ Marketing nên triển khai giải pháp nào hiện nay?

Các quy trình marketing doanh nghiệp hiện nay đã vượt xa khỏi phạm vi tạo văn bản trò chuyện (chat completions) thông thường. Khi một agent tự động hóa chiến dịch vận hành, nó không chỉ đơn thuần soạn thảo nội dung email; nó phải truy vấn điểm tiềm năng (lead score) trong CRM, đối soát các thuộc tính tùy chỉnh, kiểm tra danh sách loại trừ (suppression list) trên kho dữ liệu ngoài và kích hoạt các webhook payload với cú pháp JSON chuẩn xác.

Đội ngũ Salesforce AI Research đã giải quyết chính xác bài toán ranh giới này trong báo cáo kỹ thuật Salesforce Koa: An Enterprise Language Model for Agentic Tool Use. Bằng cách hậu huấn luyện một mô hình nền tảng open-weight 120B thông qua Group Relative Policy Optimization (GRPO) trên các tác vụ dựa trên đặc tả (specification-driven), nhóm nghiên cứu của Salesforce đã đạt Tỷ lệ thành công tác vụ (Task Success Rate) 87% trên CRMAgentBench, vượt qua các mốc cơ sở frontier tổng quát như GPT-4.1 (82%).

Mặc dù việc vận hành các cụm triển khai FP8 tùy chỉnh 120 tỷ tham số đòi hỏi hạ tầng GPU chuyên dụng tốn kém, nhưng những hiểu biết kiến trúc từ Koa lại mang đến một bản thiết kế mẫu giá trị cho các kỹ sư tăng trưởng và kỹ sư vận hành (growth marketers & ops engineers). Đối với các đội ngũ đang xây dựng agent phục vụ production hiện nay, việc kết hợp các mẫu thiết kế agentic này với những mô hình tốc độ cao như Gemini 3.7 Flash qua API hợp nhất OneMux sẽ đem lại năng lực thực thi chuẩn doanh nghiệp mà không phải chịu gánh nặng chi phí vận hành cụm máy chủ tính toán.

---

Salesforce Koa chứng minh điều gì về Enterprise Tool Use

Các mô hình nền tảng thông thường thường gặp khó khăn bên trong hệ thống CRM và các tech stack marketing vì quy trình làm việc thực tế có các hành động chồng chéo, yêu cầu gán kiểu dữ liệu tham số nghiêm ngặt và mức phạt rất nặng nếu xuất hiện ảo giác (hallucination) đối với dữ liệu bản ghi trực tiếp.

Bài báo nghiên cứu về Koa giới thiệu nhiều phát hiện quan trọng có thể áp dụng trực tiếp vào marketing operations:

1. Môi trường dựa trên đặc tả (Specification-Driven Environments): Thay vì sử dụng dữ liệu đối thoại nhiều lượt phi cấu trúc, Salesforce xây dựng môi trường từ Agent Script—các đồ thị khai báo xác định chủ đề định tuyến, giao diện hành động có định kiểu rõ ràng và phạm vi của từng subagent. Việc mở rộng các đồ thị này thành các kịch bản mô phỏng khách hàng theo chân dung giúp đảm bảo chính sách (policy) được đánh giá dựa trên mức độ hoàn thành nhiệm vụ có trạng thái (stateful task completion).
2. Phần thưởng giải quyết bám sát thực tế (Grounded Resolution Rewards): Thay vì chỉ dựa vào việc kiểm tra cú pháp trung gian, quy trình GRPO của Koa đánh giá các kịch bản thực thi bằng một trọng tài đo độ bao phủ cố định (frozen coverage judge). Điểm thưởng được tính theo tỷ lệ các câu hỏi phụ nghiệp vụ được giải quyết, đồng thời chặn đứng các hành động trùng lặp bằng cách gán điểm thưởng bằng 0 nếu một lệnh gọi công cụ giống hệt nhau bị lặp lại liên tiếp.
3. Thích ứng chuyên sâu theo miền (Targeted In-Domain Adaptation): Mặc dù học tăng cường trên miền mở mang lại mức cải thiện khiêm tốn trên các benchmark công khai như Tau2Bench và BFCL, việc tiếp tục RL trực tiếp trên phân phối dữ liệu Salesforce CRM nội miền đã cải thiện mạnh mẽ độ chính xác của đối số và tỷ lệ gọi công cụ thành công trọn vẹn trên các tập dữ liệu doanh nghiệp do con người gắn nhãn.

Đối với đội ngũ marketing quản lý hành trình khách hàng, điều này làm rõ một thực tế: quy mô mô hình lớn không đồng nghĩa với việc loại bỏ được payload API lỗi. Khả năng thực thi đáng tin cậy đòi hỏi schema công cụ phải rõ ràng, kiểm tra trùng lặp lệnh gọi và các mô hình được thiết kế tối ưu cho việc định tuyến hàm phản hồi nhanh.

---

Vì sao Gemini 3.7 Flash phù hợp với các đội ngũ Marketing hiện đại

Không phải đội ngũ kỹ thuật tăng trưởng nào cũng có đủ nguồn lực để tinh chỉnh và tự host một checkpoint Nemotron-120B riêng. Đối với các stack marketing tiếp nhận dữ liệu đo từ xa của sản phẩm (product telemetry), dữ liệu lead và danh mục nội dung, Gemini 3.7 Flash của Google đóng vai trò như một engine suy luận nhanh, tối ưu chi phí.

1. Định tuyến lead thông lượng cao và làm giàu dữ liệu

Các marketing agent thường xuyên xử lý các hàng đợi bất đồng bộ: phân loại form đăng ký gửi về, đánh giá tín hiệu firmographic và ghi các bản cập nhật có cấu trúc trở lại HubSpot hoặc Salesforce. Gemini 3.7 Flash cung cấp tốc độ tạo token nhanh cùng độ trễ thấp cần thiết để xử lý các tác vụ batch khổng lồ mà không làm tắc nghẽn tiến độ chiến dịch.

2. Bộ nhớ làm việc lớn phục vụ Multi-Touch Attribution

Gemini 3.7 Flash sở hữu context window lên tới 1M token. Trong phân tích marketing, quy trình gán nguồn đa điểm chạm (multi-touch attribution) thường yêu cầu đưa nhật ký phiên hàng tháng trời, lịch sử click email và vé hỗ trợ khách hàng vào cùng một prompt. Thay vì phải dựa vào việc cắt gọt vector quá mức làm mất dấu mốc thời gian ngữ cảnh, mô hình có thể phân tích trực tiếp các chuỗi lịch sử khách hàng có cấu trúc trên phạm vi rộng.

3. Độ chính xác cao với Function Calling gốc

Hoạt động marketing operations luôn đòi hỏi kết quả đầu ra mang tính tất định. Dù là truy vấn API đặt giá thầu Google Ads hay cập nhật giai đoạn gửi chuỗi email, các đối số sai lệch đều sẽ làm gián đoạn quá trình thực thi. Gemini 3.7 Flash hỗ trợ native structured tool calling, giúp thực thi nghiêm ngặt việc định kiểu tham số tương tự như kiến trúc Koa đề cao.

---

Bảng giá Production & Phân tích chi phí

Đối với các đội ngũ marketing đang mở rộng quy mô tiếp cận tự động (outreach) hoặc cá nhân hóa trang web theo thời gian thực, chi phí token sẽ tăng lên rất nhanh. Việc truy cập Gemini 3.7 Flash qua bảng giá OneMux giúp các đội ngũ tăng trưởng theo dõi chi phí minh bạch và tiết kiệm đáng kể so với mức giá niêm yết chính thức.

Bảng giá niêm yết tham chiếu

Giá được ghi nhận vào 2026-10-15T10:20:07.502Z từ danh mục niêm yết công khai. Giá token tiêu chuẩn tương ứng với mỗi 1.000.000 token (1M).

Chi phí Cache read trên Gemini 3.7 Flash được niêm yết chính thức ở mức $0.075 trên 1M token, trong khi giá cache read tại OneMux là $0.01365 trên 1M token.

Bài toán chi phí thực tế cho khối lượng công việc Marketing

Xét một hệ thống vòng đời tự động ở phân khúc tầm trung xử lý 50.000 lượt kiểm tra tài khoản mỗi tháng:

• Đầu vào (Input): 12.000 token cho mỗi tài khoản (dữ liệu firmographic, 5 bản ghi trao đổi gần nhất, lịch sử mua hàng).
• Đầu ra (Output): 800 token cho mỗi tài khoản (gắn thẻ JSON có cấu trúc, chỉ định chiến dịch, tạo payload).
• Tổng khối lượng: 600M input token, 40M output token.

Hóa đơn Gemini 3.7 Flash theo giá chính thức:

• Input: 600 × $0.75 = $450.00
• Output: 40 × $3.75 = $150.00
• Tổng chi phí: $600.00

Hóa đơn Gemini 3.7 Flash qua OneMux:

• Input: 600 × $0.1365 = $81.90
• Output: 40 × $0.6825 = $27.30
• Tổng chi phí: $109.20

Sử dụng OneMux, đội ngũ marketing có thể chạy khối lượng công việc giống hệt nhau nhưng giảm tới 81.8% chi phí suy luận, giúp bảo toàn ngân sách cho các thử nghiệm diện rộng trên nhiều mô hình khác trong danh mục mô hình.

---

Triển khai quy trình gọi công cụ chuẩn phong cách Koa với OneMux

OneMux cung cấp giao diện định tuyến tương thích với OpenAI. Bằng cách thiết lập các công cụ khai báo đi kèm schema chặt chẽ, các kỹ sư marketing có thể tái tạo nguyên lý định tuyến tác vụ của Koa chỉ với vài dòng code.

Xem Hướng dẫn khởi động nhanh OneMux để lấy API key, sau đó gọi Gemini 3.7 Flash:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.onemux.net/v1",
    api_key=os.environ.get("ONEMUX_API_KEY"),
)

# Define declarative marketing tools following Koa's schema isolation
tools = [
    {
        "type": "function",
        "function": {
            "name": "update_lead_lifecycle_stage",
            "description": "Updates a prospect lifecycle stage in the marketing CRM.",
            "parameters": {
                "type": "object",
                "properties": {
                    "lead_id": {"type": "string"},
                    "lifecycle_stage": {
                        "type": "string",
                        "enum": ["marketing_qualified", "sales_accepted", "disqualified"]
                    },
                    "qualification_reason": {"type": "string"}
                },
                "required": ["lead_id", "lifecycle_stage", "qualification_reason"]
            }
        }
    }
]

response = client.chat.completions.create(
    model="gemini-3-7-flash",
    messages=[
        {
            "role": "system",
            "content": "You are an enterprise marketing ops router. You only execute verified transitions."
        },
        {
            "role": "user",
            "content": "Lead ID 98231 completed two product tours and booked an enterprise demo. Transition stage."
        }
    ],
    tools=tools,
    tool_choice="auto"
)

# Inspect the model call
tool_call = response.choices[0].message.tool_calls[0]
print(f"Action: {tool_call.function.name}")
print(f"Arguments: {tool_call.function.arguments}")

Bằng việc tập trung các lệnh gọi qua một API hợp nhất, đội ngũ kỹ thuật có được khả năng giám sát chi phí qua một key duy nhất và khả năng chuyển đổi dự phòng (failover) giữa các frontier model mà không cần tái cấu trúc hạ tầng payload.

---

Khuyến nghị thực tế cho đội ngũ Marketing Operations

1. Áp dụng nhiệm vụ phụ dạng khai báo (Declarative Sub-Tasks): Không nên để một lệnh gọi mô hình duy nhất vừa phân tích tài khoản, vừa lên chiến dịch, vừa cập nhật dữ liệu. Hãy chia nhỏ quy trình thành các subagent tất định (ví dụ: Lead Verifier, Message Drafter, CRM Syncer) đúng như bài báo về Koa đã chỉ ra.
2. Thiết lập cơ chế chặn lệnh gọi trùng lặp (Duplicate-Call Suppression): Hạn chế rủi ro hóa đơn tăng vọt do vòng lặp vô tận. Nếu agent gọi đến cùng một endpoint CRM với đúng bộ tham số đó liên tiếp hai lần, hãy hủy lượt gọi và gắn cờ để con người can thiệp xử lý.
3. Cân bằng giữa tốc độ và khả năng suy luận: Sử dụng Gemini 3.7 Flash cho việc làm giàu dữ liệu đồng bộ và định tuyến tác vụ vận hành. Hãy dành các engine suy luận nặng hơn cho các chiến lược nội dung phức tạp và mô hình phân bổ đa biến.

Tài liệu tham khảo

• Chen, Z., Niu, S., Liu, Y., Zhao, W., Prabhakar, A., Mehrotra, S., et al. (2026). Salesforce Koa: An Enterprise Language Model for Agentic Tool Use. arXiv:2609.15066v2. https://arxiv.org/html/2609.15066v2