NVIDIA Auto Ontology: lớp ngữ nghĩa giúp AI agent hiểu dữ liệu doanh nghiệp

Vấn đề: agent viết SQL đúng cú pháp nhưng hiểu sai dữ liệu

Agent AI truy vấn được cơ sở dữ liệu, nhưng một con số doanh thu trả về nhanh mà sai thì không có giá trị gì. Chính README của NVIDIA mở đầu bằng ý này: độ tin cậy mới là điều kiện để dùng agent cho phân tích.

Để trả lời đúng, agent cần biết dữ liệu nằm ở đâu, nghĩa là gì, có nên dùng không, dùng thế nào, đến từ đâu và giống dữ liệu nào khác. Nếu chỉ có tên bảng và tên cột, agent phải đoán.

Ví dụ minh họa: chữ “doanh thu” có thể là số tiền khách đã trả ở hệ thống bán hàng, nhưng là con số theo quy tắc ghi nhận doanh thu ở hệ thống kế toán. Một câu SQL vẫn chạy được và vẫn đúng cú pháp khi chọn nhầm định nghĩa. NVIDIA Auto Ontology sinh ra để lấp khoảng trống đó.

Auto Ontology là gì

Auto Ontology là thư viện mã nguồn mở (Apache 2.0) của NVIDIA, dựng một lớp ngữ cảnh từ metadata doanh nghiệp rồi phục vụ lớp đó cho agent qua MCP, CLI và API. NVIDIA nhấn mạnh nó bổ trợ cho các mô hình ngữ nghĩa mà khách hàng đã có, không thay thế chúng.

Ontology trong dự án gồm ba loại định nghĩa:

Loại định nghĩa Ý nghĩa Ví dụ từ README
Terms Khái niệm kinh doanh, kèm mô tả, từ đồng nghĩa và các cột dữ liệu tương ứng Customer, Invoice Line
SQL attributes Biểu thức SQL đã được duyệt, để mọi câu trả lời tính cùng một cách Biên lợi nhuận, tổng lũy kế
Relationships Cách các bảng nối với nhau, gồm cả bảng trung gian, suy ra từ khóa và dữ liệu Invoice line, invoice, customer, city, state province

Những tính năng chính theo README:

  • Hỏi bằng ngôn ngữ tự nhiên, câu hỏi được dịch thành SQL và chạy trên cơ sở dữ liệu đã kết nối, dùng NVIDIA NIM để suy luận.
  • Catalog ngữ nghĩa nằm trong Postgres, cùng nơi với catalog mà nó mô tả.
  • Có đăng nhập và phân quyền (RBAC) bằng Better Auth.
  • Có giao diện web cho chat, phân tích, data catalog và cài đặt.
  • Triển khai bằng Helm trên Kubernetes hoặc Docker Compose cho môi trường cục bộ.

Vị trí trong NVIDIA Agent Knowledge Foundation

Auto Ontology là một thành phần của Agent Knowledge Foundation, bộ mô hình mở và thư viện CUDA-X NVIDIA công bố ngày 21/10/2026 để agent dùng dữ liệu doanh nghiệp. Mỗi thành phần dùng độc lập được, không buộc bạn chuyển sang một nền tảng trọn gói.

Theo trang NVIDIA Developer, Auto Ontology phụ trách bước hiểu ý nghĩa: nó nằm sau truy xuất và trước dự đoán, cho agent biết dữ liệu nghĩa là gì trước khi đi tiếp.

Cách hoạt động: từ metadata đến câu trả lời

Auto Ontology làm việc theo ba giai đoạn: sinh ontology từ metadata, để con người chứng nhận, rồi để agent trả lời từ ontology đó.

README diễn đạt cùng quy trình bằng năm động từ:

  • Discover: tạo ontology từ metadata, nối với ontology và mô hình ngữ nghĩa đã có.
  • Ground: cho agent ý nghĩa nghiệp vụ đáng tin của chỉ số, thực thể và quan hệ, đối chiếu các định nghĩa không khớp giữa các hệ thống.
  • Validate: kiểm tra truy vấn sinh ra với định nghĩa đã chứng nhận và nguồn gốc dữ liệu, rồi trả nguồn gốc kèm mỗi câu trả lời.
  • Expose: phục vụ ngữ cảnh cho mọi agent harness qua MCP, CLI và API.
  • Learn: đưa các chỉnh sửa đã chứng nhận và dữ liệu sử dụng quay lại ontology, để ngữ cảnh chung tốt dần theo từng câu hỏi.

Với cơ sở dữ liệu mẫu Wide World Importers, một lần biên dịch trong README tạo ra 31 term. Chọn term Order trong giao diện sẽ thấy mô tả, các term liên quan, cột được ánh xạ và SQL attribute của nó. README có ảnh chụp đồ thị ngữ nghĩa và màn hình Chat của quy trình này.

Kiến trúc và thành phần

Hệ thống gồm sáu thành phần chạy bằng Docker Compose hoặc Helm, và điểm cần nhớ là chỉ web app ở cổng 3000 được lộ ra cho client.

README giải thích lý do: backend FastAPI tin vào danh tính người dùng mà frontend chuyển tiếp qua header x-auto-ontology-user-id, còn các endpoint của dịch vụ ingestion (nạp, xóa, đặt lại, biên dịch) không có xác thực riêng. Container backend cũng được NVIDIA đăng trên NGC Catalog, cung cấp REST API cho frontend, MCP server, harness và agent.

Phần suy luận dùng bốn vai trò model:

  • REASONING: dựng ontology (term, quan hệ, SQL attribute), viết SQL và giải thích cho mỗi câu trả lời, chấm khả năng trả lời.
  • NON_REASONING: chạy các bước nhanh như nhận diện ý định, trích thực thể, chọn ứng viên, kiểm tra và sửa SQL.
  • EMBED: lập chỉ mục bảng, cột, term và SQL attribute trong pgvector, rồi khớp mỗi câu hỏi với chúng.
  • RERANK: xếp hạng các bảng ứng viên khi biên dịch SQL attribute cho bảng trung gian.

Với khóa nvapi-, mỗi vai trò mặc định dùng một NIM trên build.nvidia.com. Muốn tự host hoặc dùng endpoint tương thích OpenAI, đặt <ROLE>_ENDPOINT, <ROLE>_API_KEY và <ROLE>_MODEL. Model embedding phải giống nhau giữa lúc nạp và lúc truy vấn.

Agent dùng Auto Ontology như thế nào

Agent chạy được Auto Ontology theo ba đường: MCP server, REST API và các skill dành cho coding agent. README cũng nhắc tới CLI, nhưng phần mình đọc không mô tả chi tiết lệnh nào.

MCP server

MCP server cho mọi MCP client chín công cụ chỉ đọc trên ontology. Mỗi người dùng đăng nhập qua Auto Ontology và mọi lời gọi chạy với quyền của chính người đó.

Nhóm việc Công cụ
Kiểm tra sẵn sàng check_readiness: triển khai này có trả lời được gì không
Tra cứu term search_terms, get_term, get_term_columns, get_term_sql_attributes, get_sql_attribute, describe_table
Kiểm tra khả năng trả lời check_answerable: ontology có bao phủ câu hỏi này không
Đặt câu hỏi ask_question: trả về câu trả lời, câu SQL và các dòng dữ liệu

Chạy MCP server trỏ vào hệ thống của bạn:

AUTO_ONTOLOGY_API_URL=http://localhost:3000 \
  uvx --from "git+https://github.com/NVIDIA/auto-ontology.git#subdirectory=mcp" auto-ontology-mcp

Với Cursor, thêm vào ~/.cursor/mcp.json:

{
  "mcpServers": {
    "auto-ontology": { "url": "http://localhost:3003/mcp" }
  }
}

Claude Desktop dùng cầu nối mcp-remote trong claude_desktop_config.json. Cấu hình đầy đủ và cách xử lý lỗi nằm trong docs/mcp.md của repo.

REST API

Gửi câu hỏi bằng POST /api/chat/completions tới địa chỉ của web app, kèm API token lấy ở menu người dùng, mục API Tokens, qua header x-api-key. Phản hồi là luồng server-sent events: sự kiện result mang câu trả lời và data: [DONE] kết thúc luồng.

curl -N http://localhost:3000/api/chat/completions \
  -H "x-api-key: $AUTO_ONTOLOGY_API_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{"question": "How many orders shipped last week?"}'

Agent skills

Ba skill dạy coding agent làm việc với Auto Ontology; điểm bắt đầu là file AGENTS.md trong repo.

Skill Phụ trách
nvidia-ontology-setup Cài đặt, kết nối nguồn dữ liệu, biên dịch, chứng minh hệ thống sẵn sàng
nvidia-ontology-management Kiểm tra, mô hình hóa, chứng nhận, nhập/xuất và xuất bản
nvidia-ontology-query Đặt câu hỏi và kiểm chứng SQL, dữ liệu và câu trả lời

Cài đặt nhanh bằng Docker Compose

Quickstart trong README chạy Auto Ontology với Docker Compose trên Wide World Importers, cơ sở dữ liệu bán hàng mẫu của Microsoft. Bạn cần Docker có Compose v2, công cụ uv và một API key NVIDIA dạng nvapi-... lấy tại build.nvidia.com.

  1. Clone repo và tạo file .env từ .env.example.
  2. Điền các giá trị bắt buộc vào .env: DEFAULT_MODELS_API_KEY, AUTH_SECRET (chuỗi ngẫu nhiên dài), APP_URL, POSTGRES_PASSWORD, CONNECTION_STRINGS, AUTO_ONTOLOGY_ADMIN_PASSWORD và PGADMIN_PASSWORD. Compose mở cổng Postgres, pgAdmin và web app ra máy chủ, nên hãy đổi mọi mật khẩu mặc định trước khi chạy.
  3. Khởi động Postgres và nạp dữ liệu mẫu bằng script seed trong repo auto-ontology-eval.
  4. Dựng và chạy phần còn lại bằng docker compose up -d --build.
  5. Mở http://localhost:3000, đăng nhập bằng tài khoản quản trị trong .env, vào Settings, Semantic Compilation và bật lên. Hệ thống báo “Semantic compilation is ready” khi biên dịch xong.
  6. Hỏi thử ở mục Chat.
git clone https://github.com/NVIDIA/auto-ontology.git && cd auto-ontology
cp .env.example .env
docker compose up -d --wait postgres
# nạp dữ liệu mẫu bằng seed script của auto-ontology-eval, rồi:
docker compose up -d --build

Câu hỏi mẫu trong README: “What was revenue for the USB food flash drive – sushi roll in Pennsylvania in June 2015?”. Agent hiểu ba từ revenue, product và state là các term trong ontology, đi theo quan hệ để tìm các phép nối cần thiết rồi chạy truy vấn. Câu trả lời là 588,80 đô la từ 3 dòng hóa đơn, kèm câu SQL và các bước đã làm để bạn đối chiếu với nguồn.

Trường hợp thú vị hơn là câu hỏi dữ liệu không trả lời được. Hỏi về lợi nhuận trên chi phí quảng cáo thì agent qua MCP chạy check_answerable, thấy không term nào bao phủ “ad spend” (độ bao phủ 0,5), rồi hỏi lại bạn thay vì bịa số. Với triển khai Kubernetes, README trỏ tới DEPLOYMENT.md dùng Helm chart.

Điểm mạnh, giới hạn và lưu ý

Điểm mạnh lớn nhất là mỗi câu trả lời đi kèm bằng chứng kiểm tra được; điểm yếu lớn nhất là ontology sinh tự động mới chỉ là bản nháp cần con người duyệt.

Điểm mạnh

  • Mỗi câu trả lời hiển thị câu SQL và các bước đã làm, nên có thể đối chiếu với nguồn.
  • Khi ontology không bao phủ câu hỏi, agent báo không trả lời được thay vì đoán.
  • MCP chạy với quyền của người dùng đã đăng nhập, nên agent không vượt quyền truy cập.
  • Kết nối được mười loại nguồn: PostgreSQL, MySQL, Databricks, Snowflake, ClickHouse, Trino, Apache Kyuubi, HeavyDB, DuckDB và SQLite.
  • Dùng NIM của NVIDIA hoặc bất kỳ endpoint tương thích OpenAI, miễn là model hỗ trợ structured output.
  • Tương thích Apache Ossie, chuẩn mở để trao đổi mô hình ngữ nghĩa, nên nhập và xuất định nghĩa được dưới dạng YAML.

Giới hạn và lưu ý

  • Đây là điểm khởi đầu: người có chuyên môn nghiệp vụ vẫn phải kiểm thử, tinh chỉnh và chứng nhận ontology. Trang NVIDIA Developer cũng gọi ontology sinh ra là bản khởi đầu cho các bước đó.
  • Con số giảm 90% thời gian tạo ontology xuất hiện trên trang NVIDIA Developer và được ghi là từ thử nghiệm của NVIDIA. Trong README mình không thấy phương pháp đo, nên hãy coi đây là số liệu từ nhà phát hành.
  • Dự án hiện không nhận pull request từ bên ngoài. Yêu cầu tích hợp và báo lỗi được gửi qua issue.
  • Cổng 3001 và 3002 phải nằm trong mạng riêng. Backend tin vào danh tính người dùng do frontend chuyển tiếp, còn dịch vụ ingestion không có xác thực riêng.
  • Nếu bật KumoRFM để trả lời câu hỏi dự báo, agent sẽ tải các bảng đã kết nối lên dịch vụ được lưu trữ bên ngoài. README khuyên rà soát việc này và hoàn tất thẩm định dữ liệu của tổ chức trước khi bật.
  • README mô tả đây là phần mềm có thể truy cập tài nguyên bên ngoài khi chạy, gồm endpoint mô hình bạn cấu hình và cơ sở dữ liệu nguồn, và người dùng tự chịu trách nhiệm về điều khoản của chúng.

Khi nào nên dùng

Auto Ontology phù hợp nhất với đội đã có kho dữ liệu quan hệ và muốn agent hỏi đáp trên đó mà vẫn kiểm chứng được từng con số.

  • Bạn có agent text-to-SQL nhưng cùng một chỉ số cho ra kết quả khác nhau tùy câu hỏi hoặc tùy hệ thống nguồn.
  • Bạn cần mỗi câu trả lời đi kèm SQL và các bước, để người nghiệp vụ duyệt được.
  • Bạn muốn một lớp ngữ nghĩa dùng chung cho nhiều agent qua MCP, thay vì viết lại ngữ cảnh trong từng prompt.
  • Bạn đã có mô hình ngữ nghĩa riêng và muốn nối thêm thay vì làm lại từ đầu.

Nó chưa phù hợp nếu bạn không có người đủ chuyên môn để chứng nhận định nghĩa, hoặc dữ liệu chính là tài liệu phi cấu trúc. Với trường hợp thứ hai, trang NVIDIA Developer xếp việc tìm kiếm tài liệu vào nhóm Nemotron Retriever, còn Auto Ontology lo phần hiểu ý nghĩa dữ liệu.

Nguồn chính thức từ NVIDIA

Mọi thông tin kỹ thuật trong bài lấy từ các trang do NVIDIA đăng. Ba trang đầu tiên được mở đọc trực tiếp ngày 17/11/2026; trang NGC và repo đánh giá chỉ dùng thông tin từ kết quả tìm kiếm và từ README. Ba sơ đồ trong bài là minh họa vẽ lại từ nội dung các trang này, không phải hình gốc của NVIDIA.

____
Bài viết liên quan
TAG: , , ,