Strands Decider 2B, PageIndex và pi: agent rẻ hơn, kiểm soát hơn
Sau Decisions API của OpenAI, AWS vừa mở mã nguồn một decision model 2B chạy được trên máy cá nhân, nên bước "chọn A, B hay C" trong agent giờ có lựa chọn local. Bài này gom năm thứ cài được ngay cho người làm agent: Strands Decider 2B, PageIndex cho RAG không cần vector DB, harness pi, bộ audit iFixAi và HyperFrames để agent dựng video từ HTML.
Strands Decider 2B: decision model mã nguồn mở chạy local
Strands Labs của AWS phát hành Strands Decider 2B, một decision model không sinh text mà chỉ chọn trong tập đáp án bạn đưa ra, kèm điểm confidence cho mỗi câu trả lời. Có ba kiểu câu hỏi: noul (có/không), choice (chọn 1 trong N) và score (chấm theo thang). Model có 1,9 tỷ tham số, dựng trên phần thân Qwen3.5-2B-Base, bỏ language-modelling head và thay bằng một pointer head khoảng 1 triệu tham số, nên mỗi câu trả lời chỉ cần một lượt forward. README ghi độ trễ trung vị 115 ms trên RTX 3090 và 153 ms trên M3 Pro; trên JevBench v1 (231 task) model đạt 0,723, nhưng tầng câu khó chỉ 0,505. Với task phân loại ngắn chưa gặp, câu trả lời có confidence từ 0,9 trở lên đúng khoảng 95%. Code, dữ liệu huấn luyện và script đều công khai theo Apache 2.0, weights nằm trên Hugging Face; huấn luyện lại toàn bộ mất khoảng 11 giờ trên một RTX 3090.
pip install strands-decider
strands-decider ask StrandsAgents/strands-decider-2B-hobson-v19 \
--state "Help! My payouts have been failing for 3 days!" \
--choice "Which team should handle this?=billing,sales,retail"
Muốn gọi qua HTTP thì chạy strands-decider serve rồi POST vào /v1/systemone. Thư mục examples/strands/ có ví dụ chặn tool call trước khi chạy để agent hỏi lại thành phố thay vì tự đoán.
Dùng khi: agent có các bước lặp lại như route request, chọn tool, kiểm tra tham số tool call hoặc guardrail; dưới ngưỡng confidence 0,9 thì đẩy lên LLM hoặc người duyệt. Skip nếu bước đó cần suy luận nhiều bước hoặc câu trả lời mở: model không sinh text, và độ chính xác ở câu khó mới khoảng một nửa.
PageIndex: RAG bằng cây mục lục thay cho vector DB
PageIndex bỏ vector index và chunking. Mỗi tài liệu được dựng thành một cây phân cấp giống mục lục, rồi LLM suy luận để đi qua cây và đọc đúng phần cần thiết, nên kết quả truy được về tham chiếu cụ thể. Từ tháng 8, SDK có local mode: index, retrieve và chat ngay trên máy bằng API key LLM của bạn, với PageIndex Flash là cách index mặc định cho PDF dạng text. README ghi chi phí index khoảng $0,001 mỗi trang khi dùng gpt-5.6-luna, tài liệu 9 đến 1.098 trang index mất khoảng 13 giây đến 4,5 phút. So với gửi nguyên PDF cho model ở mỗi câu hỏi, cách đó đắt hơn 2,1 lần ở tài liệu 52 trang và 16,6 lần ở 420 trang (chưa tính prompt caching). License MIT, có hướng dẫn gắn vào OpenAI Agents SDK và Claude Agent SDK trong docs.
pip install -U pageindex
Thử nếu: bạn làm Q&A trên tài liệu dài và có cấu trúc như báo cáo tài chính, hợp đồng hay manual kỹ thuật, và vector search đang trả về đoạn "giống" nhưng không đúng. Skip nếu tài liệu chủ yếu là bản scan mà bạn cần chạy local: bản mã nguồn mở chỉ xử lý PDF dạng text, còn OCR, hiểu ảnh và MCP server nằm ở bản Cloud.
pi: agent harness tối giản, tự mở rộng
pi là monorepo TypeScript gồm coding agent chạy trong terminal (pi-coding-agent), runtime agent có tool calling và quản lý state (pi-agent-core), một API thống nhất cho nhiều nhà cung cấp LLM như OpenAI, Anthropic, Google (pi-ai) và thư viện TUI. Agent được thiết kế tối giản: bạn bảo pi tự tạo prompt template, skill, extension hoặc cài package, và có thể chạy ở chế độ print, JSON, RPC hoặc nhúng qua TypeScript SDK. Repo xử lý supply chain khá kỹ: pin chính xác version dependency trực tiếp, không resolve bản npm phát hành trong ngày, và cài bằng --ignore-scripts. Cần Node.js 22.19 trở lên.
npm install -g --ignore-scripts @earendil-works/pi-coding-agent
cd /path/to/project && pi
Trong pi, gõ /login để kết nối subscription hoặc API key. Lưu ý quan trọng: pi không có hệ thống phân quyền sẵn, nó chạy với toàn bộ quyền của user khởi động nó. Tài liệu containerization gợi ý ba cách cô lập: micro-VM Gondolin, Docker, hoặc OpenShell.
Dùng khi: bạn muốn một agent nhỏ để tự lắp workflow riêng, hoặc cần một lớp gọi nhiều LLM provider qua cùng một API trong TypeScript. Skip nếu bạn cần hộp thoại xin quyền trước mỗi lệnh có sẵn: với pi, bạn phải tự sandbox.
iFixAi: audit xem agent có làm đúng việc không
iFixAi chạy 60 bài kiểm tra trên agent của bạn và chấm điểm A–F dựa trên năm nhóm chính: Fabrication (dùng tool không được cấp, không có audit trail), Manipulation (leo thang quyền, prompt injection, retrieval bị đầu độc), Deception, Unpredictability và Opacity. Manipulation chiếm trọng số lớn nhất, 0,35. Mỗi lần chạy có hai vai: agent bị chấm và judge chấm điểm; điểm chỉ được coi là trích dẫn được khi judge đến từ nhà cung cấp khác. Bạn có thể trỏ thẳng vào endpoint tương thích OpenAI của agent đang chạy bằng --provider http --endpoint, hoặc tự viết adapter với một method send_message. README ước tính một lần chạy full suite tốn khoảng $10–18 tiền judge theo giá OpenRouter, chưa tính chi phí agent bị chấm. License Apache 2.0, có plugin cho Claude Code và Codex.
pip install "ifixai[openai]"
ifixai run --provider mock --api-key not-used --eval-mode self
Lệnh mock trên chạy khoảng 1 giây, không cần key, và cố tình trả về scorecard trượt (15/60) để bạn xem lỗi trông thế nào.
Thử nếu: agent của bạn đã có tool, retrieval và guardrail, và bạn cần bằng chứng nó không tự ý dùng tool hay bị prompt injection trước khi ra production. Skip nếu bạn chỉ gọi model trần: điểm sẽ thấp và nhiều mục bị đánh dấu insufficient_evidence vì không có tool hay audit trail để kiểm tra.
HyperFrames: agent viết HTML, render ra MP4
HyperFrames của HeyGen biến HTML, CSS, media và animation tua được (seekable) thành video MP4 có tính tất định: cùng input cho ra cùng video. Bạn dùng qua CLI, hoặc cài plugin để coding agent tự lên kế hoạch, viết HTML, lint, preview và render. Bộ plugin có 21 skill, trong đó /pr-to-video đọc một GitHub pull request qua gh CLI và dựng video giải thích thay đổi; ngoài ra có workflow cho video ra mắt sản phẩm, slideshow và chart animation. Render chạy local, trên cloud của HeyGen hoặc AWS Lambda. Cần Node.js 22+ và FFmpeg, license Apache 2.0.
npx hyperframes init my-video
cd my-video
npx hyperframes preview
npx hyperframes render
Trong Claude Code, cài bằng claude plugin marketplace add heygen-com/hyperframes rồi claude plugin install hyperframes@hyperframes; xem quickstart cho Cursor, Codex và Gemini CLI.
Dùng khi: bạn muốn tự động tạo video changelog, demo PR hay video số liệu ngay trong pipeline CI. Skip nếu bạn cần dựng phim thủ công trên timeline: HyperFrames hợp với video sinh ra từ code và agent.
Kết luận
Nếu chỉ thử một thứ, hãy cài Strands Decider và cho nó xử lý bước route hoặc phân loại đang tốn một lượt gọi LLM, rồi so độ trễ và tỷ lệ câu có confidence dưới 0,9. Trước khi đưa agent ra production, chạy iFixAi bản mock để biết agent sẽ bị chấm những gì.