GPT-6 Sol/Luna, prompt cache và 3 repo agent cần thử
Stack AI/devtools đang dồn về model tier có tradeoff rõ, prompt caching kiểm soát được, và runtime/harness cho agent — không phải event promo hay tin funding. Dưới đây là năm điểm chạm có link docs/repo để bookmark và thử ngay.
GPT-6 Sol và Luna: hai cân bằng capability vs cost
OpenAI giới thiệu GPT-6 Sol và GPT-6 Luna — hai model đưa frontier intelligence vào công việc hàng ngày với cân bằng capability và chi phí khác nhau. Thay vì mặc định một model cho mọi task, team có thể map: workload nặng / reasoning dài → Sol; volume cao / latency-cost nhạy → Luna. Điểm hành động: mở Models docs, kiểm tra id model và pricing trước khi đổi default trong SDK hoặc router nội bộ.
Dùng khi: bạn đang tách traffic theo tier (chat nhẹ vs agent dài) và cần giá/token rõ; skip nếu stack vẫn khóa một model vendor khác và chưa có budget migrate.
Prompt caching GPT-6: hit rate, breakpoint, diagnostics
GPT-6 cải thiện prompt caching: cache hit rate cao hơn, có diagnostics mới, explicit breakpoints, và control giúp giảm latency lẫn cost khi prompt hệ thống/tool schema lặp lại. Pattern thực thi: tách phần ổn định (system, tool defs, few-shot dài) khỏi phần user thay đổi từng request; đặt breakpoint đúng biên cache. Docs guide: Prompt caching.
Dùng khi: agent/API call có prefix dài ổn định (tools + policy) và bill token đang phình; skip nếu mỗi request gần như prompt mới hoàn toàn — cache gần như không hit.
Claude for Financial Services: agent + skill FSI sẵn
Repo anthropics/financial-services cung cấp reference agents, skills và data connectors cho workflow FSI (investment banking, equity research, PE, wealth). Cùng một nguồn cài được hai cách: plugin Claude Cowork hoặc deploy qua Claude Managed Agents API. Có agent sẵn như Pitch, Market Researcher, Model Builder, GL Reconciler — output luôn staged cho human sign-off, không phải advice đầu tư tự động.
Thử nếu: team fintech/FSI cần template agent + skill thay vì viết system prompt từ zero; skip nếu domain không liên quan tài chính — clone repo chỉ để học pattern plugin cũng được, nhưng ROI thấp hơn.
Agent Substrate: runtime sandbox mật độ cao cho agent
agent-substrate/substrate (Go, Apache-2.0) là execution runtime secure-by-default: map nhiều “actors” (agent) lên ít “workers”, suspend/resume sub-500ms, hỗ trợ microVM và gVisor, dựng trên Kubernetes. Không phải SDK viết agent — mà hệ thống chạy agent ở scale (idle hầu hết thời gian → multiplexing). Tương thích ADK, LangChain, coding CLI, MCP server dạng actor. Trạng thái: early development, API còn đổi; demo counter trong repo.
Dùng khi: bạn chạy nhiều sandbox agent stateful trên K8s và đang đốt CPU vì density thấp; skip nếu mới prototype local một agent — Docker/compose vẫn đủ.
Univer: office harness cho AI agent
dream-num/univer là SDK office isomorphic (TypeScript): spreadsheet, docs, slides, canvas, bảng quan hệ, PDF trong một runtime — canvas render + formula engine, plugin architecture, Facade API chạy browser và Node. Positioning mới rõ: office harness cho AI agents — embed sheet/doc vào SaaS hoặc pipeline agent thay vì chỉ viewer file. Docs: docs.univer.ai, API reference trên cùng site.
Dùng khi: agent cần đọc/sửa workbook hoặc doc trong product (BI, internal tool, AI app); skip nếu chỉ export CSV/PDF một chiều — library nhỏ hơn đủ.
Kết luận
Năm hướng thử trong một buổi sprint: map Sol/Luna theo tier traffic; đo cache hit với breakpoint trên prompt dài; clone một FSI agent template nếu domain khớp; đọc demo Substrate nếu bạn đã có K8s agent pool; hoặc spike embed Univer sheet cho agent. Chọn một spike đo được (cost/token, density sandbox, hoặc UX edit sheet) — đừng bật hết model router + runtime mới cùng lúc khi chưa có baseline.