NVIDIA Agentic Commerce: Kiến trúc Microservices kết hợp Agentic Workflow

AI không chỉ dừng lại ở các chatbot giao tiếp thông thường; nó đang định hình lại cách các nền tảng thương mại điện tử vận hành. Trong bài viết này, chúng ta sẽ cùng “mổ xẻ” báo cáo kỹ thuật từ một phiên bản fork của Agentic Commerce Blueprint (từ NVIDIA) để xem cách một hệ thống thương mại điện tử hiện đại tích hợp AI Agents, RAG (Retrieval-Augmented Generation) và kiến trúc Microservices vào thực tế.

Điểm nhấn của phiên bản fork này là việc tối ưu hóa cấu hình hệ thống với các mô hình LLM thuộc nhóm “hạng nhẹ”, giúp triển khai linh hoạt nhưng vẫn giữ nguyên sức mạnh của pipeline kiến trúc gốc.

1. Bức Tranh Tổng Thể: Kiến Trúc Hệ Thống 6 Lớp

Thay vì nhồi nhét mọi thứ vào một khối nguyên khối (monolithic), Blueprint này áp dụng tư duy thiết kế phân tán, chia hệ thống thành 6 lớp riêng biệt:

Gateway (Nginx): Đóng vai trò là điểm vào (entry point) duy nhất (cổng 80) định tuyến luồng truy cập cho cả UI và API.

Frontend: Giao diện người dùng được xây dựng bằng Next.js, đi kèm với một dashboard dạng giao thức kiểm tra (protocol inspector) để theo dõi các tác vụ của Agent.

Backend Nghiệp Vụ: * Merchant API (FastAPI): Xử lý quy trình thanh toán (ACP + UCP), số liệu và quản lý sản phẩm.
Payment API (PSP): Dịch vụ xử lý thanh toán ủy quyền (delegated payment).
Apps SDK: Đóng vai trò là MCP (Model Context Protocol) server làm cầu nối giữa các công cụ (tools) và backend.

Agent Layer: Các AI Agent thực thi chuyên biệt: Promotion, Post-purchase, Recommendation (ARAG) và Search (RAG).

Data & Retrieval Layer: Cơ sở dữ liệu vector sử dụng Milvus Standalone, được back-up bởi etcd và MinIO.

Observability: Hệ thống tracing với Phoenix để giám sát và gỡ lỗi (debug) quá trình suy luận của AI.

2. Lựa Chọn Hệ Mô Hình (Models & NIM) Tối Ưu

Phiên bản fork này được thiết kế để dễ thở hơn cho cơ sở hạ tầng, với cấu hình model mặc định tập trung vào các mô hình nhỏ gọn nhưng hiệu quả cao:

LLM Mặc định (API Mode): nvidia/llama-3.1-nemotron-nano-8b-v1 – Chịu trách nhiệm cho logic của các Agent và layer ứng dụng. Đây cũng là mô hình dùng để đánh giá (Evaluation judge) trong các cấu hình Agent.

Local NIM LLM (Self-hosted): Sử dụng image nvcr.io/nim/meta/llama-3.2-3b-instruct:latest. Ở chế độ local, hệ thống sẽ chạy một cụm docker-compose riêng cho NIM, đợi endpoint /models sẵn sàng trước khi nạp vào hệ thống.

Mô hình Embedding: nvidia/nv-embedqa-e5-v5 (Dimension 1024) đảm nhiệm việc mã hóa dữ liệu vector cho Milvus.

3. Khám Phá Trái Tim Của Hệ Thống: Các AI Agents

Sức mạnh thực sự của Blueprint nằm ở cách các NAT Agents (sử dụng NVIDIA NeMo Agent Toolkit) tương tác và giải quyết nghiệp vụ:

Promotion Agent (Chiến lược giá): Xử lý theo workflow chat_completion. Nó đóng vai trò “trọng tài” quyết định chiến lược khuyến mãi, nhận tín hiệu nghiệp vụ từ hệ thống và trả về chuỗi JSON gồm hành động (action), mã lý do (reason_codes) và luồng suy luận (reasoning).

Post-Purchase Agent (Chăm sóc sau mua): Sinh ra các thông báo vận chuyển đa ngôn ngữ, cá nhân hóa theo phong cách (brand persona) của thương hiệu. Nếu Agent gặp lỗi, hệ thống có cơ chế fallback về template mặc định để đảm bảo không gián đoạn dịch vụ.

Recommendation Agent (Gợi ý nâng cao): Đỉnh cao của luồng RAG. Nó kết hợp luồng xử lý tuần tự và song song (ARAG):

Truy xuất thông tin (rag_retriever) từ Milvus.
Phân tích song song (Hiểu ý định người dùng + NLI).
Tóm tắt bối cảnh và xếp hạng sản phẩm (Item ranker).

(Ngoài ra còn có cấu hình Recommendation Ultrafast sử dụng tool_calling_agent cho tốc độ xử lý nhanh hơn chỉ với 1 lượt suy luận).

Search Agent: Đảm nhiệm tìm kiếm ngữ nghĩa top-k từ vector database Milvus.

4. Giao Thức Thương Mại & Hệ Sinh Thái Apps SDK

Hệ thống kết nối mượt mà giữa AI và nghiệp vụ thương mại thông qua một loạt các công nghệ và giao thức chuẩn:

Model Context Protocol (MCP) Server

Apps SDK sử dụng FastMCP tạo ra các điểm cuối (endpoints) HTTP không trạng thái. SDK đăng ký một danh sách các “tools” mạnh mẽ để AI có thể trực tiếp tương tác với giỏ hàng, như: search-products, add-to-cart, checkout, get-recommendations, v.v.

Checkout & Payments

ACP (Agentic Commerce Protocol): Merchant API xử lý hoàn chỉnh vòng đời checkout từ việc tạo session, cập nhật cho đến hoàn tất/hủy bỏ. Việc hoàn tất checkout sẽ kích hoạt ngay Agent Post-purchase.

UCP (Universal Commerce Protocol): Hỗ trợ tính năng tự động khám phá hồ sơ (discovery profile) và các endpoint JSON-RPC để Agent tương tác với các thẻ thông tin (agent-card).

PSP: Cung cấp tính năng thanh toán ủy quyền (delegated payment) với tính năng bảo vệ idempotency (đảm bảo một giao dịch không bị trừ tiền nhiều lần do lỗi mạng).

5. DevEx & Vận Hành Khởi Chạy (CI/CD, Runtime)

Việc triển khai hệ thống phức tạp này được đơn giản hóa nhờ pipeline CI/CD và script orchestration khéo léo:

GitHub Actions: Hệ thống có 3 workflow chính bao phủ mọi khía cạnh:

Build Docker Matrix cho hai kiến trúc linux/amd64 và linux/arm64.
Smoke test đa nền tảng (Ubuntu & Windows).
Production Gates kiểm soát gắt gao chất lượng mã nguồn (Lint, pytest, coverage) và bảo mật (pip-audit, pnpm audit).

Orchestration 1-Click (runall.sh): Script này “cân” toàn bộ chuỗi khởi động. Nó kiểm tra port, xử lý chế độ chạy mô hình (API với NVIDIA API Key hoặc quay Local NIM), thiết lập các biến môi trường, đợi Milvus và Phoenix sẵn sàng, và thực hiện health-check toàn bộ hạ tầng trước khi trả lại điều khiển.

Vector Seeding: Script seed_milvus.py tự động lấy thông tin sản phẩm từ Single Source of Truth (dữ liệu SQLite), gọi endpoint embedding và nạp vector thẳng vào Milvus (với Index IVF_FLAT, L2 metric).

Agentic Commerce Blueprint (bản fork) là một ví dụ tuyệt vời về cách kiến trúc hệ thống hiện đại đang chuyển mình để dung nạp AI suy luận. Việc kết hợp Nginx gateway, FastMCP, dữ liệu đa chiều (Milvus), Microservices (FastAPI/Next.js) và nền tảng NVIDIA NeMo Agent (với các mô hình 3B-8B nhẹ) đã tạo ra một hệ thống vừa có thể triển khai cục bộ dễ dàng, vừa giữ được sự chuyên nghiệp, an toàn ở cấp độ doanh nghiệp (Enterprise-grade).

Đối với bất kỳ ai đang nghiên cứu cách “cài cắm” AI vào luồng quy trình thương mại với độ trễ thấp và khả năng vận hành trơn tru, đây chắc chắn là một kiến trúc mẫu (blueprint) đáng để học hỏi!

source: https://github.com/baolnq-ai/Agentic-Commerce-blueprint-provider-.git

____
Bài viết liên quan