nestjs/ai, OnlyRead: repo GitHub AI mới nổi
Một repo GitHub AI mới nổi đáng xem khi nó giải một điểm nghẽn thực tế: gắn mô hình vào backend có sẵn, siết quyền của browser agent, đưa agent xuống điện thoại Android, hoặc huấn luyện draft model cho speculative decoding. Bài viết này của Kungfutech chọn bốn dự án mã nguồn mở theo hướng đó: @nestjs/ai để gọi LLM và agent function trong Nest, OnlyRead để browser agent chỉ được đọc, android-use để agent thao tác Android qua MCP, và ASpec để huấn luyện draft speculative decoding thông lượng cao. Mỗi mục kèm cách cài đặt lấy từ README, sau đó là một số tin tức AI đáng tham khảo.
nestjs/ai: module LLM và agent cho Nest
nestjs/ai là gì?
nestjs/ai là module chính thức của Nest Framework để dùng language model trong ứng dụng Node.js: đăng ký model theo tên qua dependency injection, gọi model với timeout, retry và fallback (chạy trên policy của @nestjs/resilience hoặc policy tự viết), theo dõi budget và usage event, structured output có schema, và biến method của ứng dụng thành agent function mà agent gọi (đi qua guard, interceptor, pipe và exception filter như user mà agent đang đại diện).
README nêu thêm streaming câu trả lời tới browser trên Express, Fastify và Node adapter; agent run bền vững trên @nestjs/workflows (@nestjs/ai/workflows) sống sót qua restart và chờ người duyệt; method có thể đồng thời là MCP tool qua @nestjs/mcp. Module xây trên AI SDK và các package provider của nó, kèm FakeModel cho test. Repo đạt 8 sao, giấy phép MIT; cần Node.js 22 trở lên và Zod 4.2 trở lên (hoặc thư viện Standard Schema khác xuất được JSON Schema). Mỗi major của @nestjs/ai gắn với một major của AI SDK; bản hiện tại dùng ai 7.
Cách cài đặt và sử dụng nestjs/ai?
Theo README:
npm i --save @nestjs/ai @nestjs/resilience ai @ai-sdk/anthropic zod
Mọi package @ai-sdk/* đều dùng được (@ai-sdk/openai, @ai-sdk/google, ...). Đăng ký model rồi gọi trong service:
import { anthropic } from '@ai-sdk/anthropic';
import { Injectable, Module } from '@nestjs/common';
import { AgentFunction, AiModule, AiService, type AgentFunctionContext } from '@nestjs/ai';
import * as z from 'zod';
@Injectable()
export class OrdersTools {
constructor(private readonly orders: OrdersService) {}
@AgentFunction({
name: 'find-order',
description: 'Find an order by its id',
inputSchema: z.object({ orderId: z.string() }),
})
find({ orderId }: { orderId: string }, ctx: AgentFunctionContext) {
return this.orders.findFor(ctx.request?.user, orderId);
}
}
@Module({
imports: [
AiModule.forRoot({
models: {
default: anthropic('claude-opus-5-5'),
fast: anthropic('claude-haiku-5-5'),
},
defaults: { timeout: '30s', retry: { attempts: 3 } },
}),
],
providers: [OrdersService, OrdersTools, SupportService],
})
export class AppModule {}
Sample trong repo là cửa hàng mèo: triage email hỗ trợ và chat assistant gọi cùng method find-order mà MCP server cũng phục vụ. Build sample: npm run build && npx tsc -p sample/tsconfig.json, rồi node sample/dist/main.js (có ANTHROPIC_API_KEY thì Claude trả lời; không có thì dùng fake model). Tài liệu: Overview, Models, Tools, Agents.
OnlyRead: khóa browser agent ở chế độ chỉ đọc
OnlyRead là gì?
OnlyRead là extension Chrome (Manifest V3) buộc AI agent trong browser chỉ được đọc: inbox, lịch và công cụ đã đăng nhập vẫn xem được, nhưng mọi thao tác gửi, đăng, like, sửa, xóa hoặc đổi settings bị từ chối trước khi rời browser. README nhấn mạnh enforcement nằm dưới model, ở tầng mạng, chứ không dựa vào việc nhắc model “cẩn thận”.
Luồng quyết định gồm rule (method chỉ ghi, upload, beacon, socket bị từ chối), decoder theo từng site (Google sync, LinkedIn server actions, Facebook GraphQL…), verdict cache đã review, rồi AI judge chỉ khi còn nghi ngờ; không chắc hoặc không gọi được judge thì từ chối. Agent đang chạy không tắt hoặc hạ settings của OnlyRead được. Repo đạt 13 sao, giấy phép AGPL-3.0; site dự án tại onlyread.ai.
Cách cài đặt và sử dụng OnlyRead?
Theo README, cách nhanh nhất là cài từ Chrome Web Store. Hoặc tải onlyread-<version>.zip từ release mới nhất, giải nén, bật Developer mode tại chrome://extensions và Load unpacked thư mục onlyread/. Mỗi release ghi SHA-256 của cả hai bản zip.
Sau khi mở extension: chọn AI judge bằng đăng nhập OnlyRead Pro, hoặc dán key OpenRouter / Vercel AI Gateway của bạn; trong settings bật các site agent được phép dùng. Mặc định OnlyRead chỉ canh khi agent đang làm việc trong browser; muốn canh luôn thì chọn Always dưới Security và đặt PIN settings. Extension hoạt động với Claude in Chrome, ChatGPT in Chrome, Gemini in Chrome, Comet, Dia, Opera Neon, Edge Copilot Mode, Manus Browser Operator, BrowserOS, Browser Use, Playwright và các agent khác điều khiển Chromium có extension.
android-use: đưa agent xuống Android qua MCP
android-use là gì?
android-use là máy chủ MCP stdio (Python MCP SDK) để AI agent điều khiển điện thoại hoặc emulator Android: đọc màn hình, tìm control, tap, gõ, scroll và kiểm tra kết quả, kèm live phone view. Tích hợp sẵn với Dim Agent; client MCP khác (Claude Desktop, Cursor, VS Code / Copilot…) cấu hình lệnh local. Không cần root, Appium, signing setup hay keyboard APK; dùng USB hoặc wireless ADB đã ủy quyền. Tùy chọn bật Jev để chọn candidate UI trong khi agent vẫn giữ planning và verify cuối. Repo đạt 6 sao, giấy phép MIT, Python 3.11+; bản runtime standalone v0.7.0 gói Python, ADB, ffmpeg, UI và control service.
Cách cài đặt và sử dụng android-use?
Theo README, trong Dim Agent mở Plugins → Plugin Marketplace, tìm AndroidUse và bấm +. Bật Developer options và USB debugging, cắm cáp dữ liệu, chấp nhận prompt, giữ máy mở khóa; ADB phải có trên máy chạy lệnh.
Cài từ source (khi đã có Python/uv, ADB, ffmpeg), clone repo rồi từ thư mục gốc:
uv run --no-project --python 3.13 python scripts/install.py install --source .
JSON trả về chứa mcp_config.command và mcp_config.args. Thêm local stdio MCP tên android_use với đúng lệnh và argument theo thứ tự. Với Dim CLI (ví dụ entry standalone macOS/Linux; thay path bằng kết quả cài thật):
dim mcp add --scope user android_use -- /bin/sh "/absolute/path/runtime/launcher.sh" auto-serve
dim mcp test android_use --json
Kiểm tra danh sách tool không rỗng, gọi aua_setup / aua_ready, rồi aua_screen để mở live view. Task mẫu trong README: kiểm tra máy READY, mở Settings và báo mức pin, không đổi settings. Chi tiết standalone, OCR macOS tùy chọn và rollback nằm trong docs/standalone.md.
ASpec: khung huấn luyện draft cho speculative decoding
ASpec là gì?
ASpec là framework huấn luyện thông lượng cao cho draft model của speculative decoding. Nó tối ưu forward/backward/optimizer của Draft, chồng việc sinh Target feature với huấn luyện Draft, và chia sẻ Target feature tương thích giữa nhiều thí nghiệm độc lập (mỗi Draft giữ weight, optimizer, progress và checkpoint riêng). Dự án phát triển từ codebase TorchSpec.
README liệt kê thuật toán Draft: DSpark, DFlash, EAGLE3, EAGLE4, native MTP; DFlash2 còn experimental. Hỗ trợ Dense / Qwen MoE / Ling MoE, nhiều cấu trúc attention (MHA/GQA, MLA, SWA, CSA, QSA, DSA), sequence packing và context parallelism. Benchmark đại diện Qwen3-8B / 4K trên Hopper: Draft-only 1 GPU khoảng 15.256 token/s input (~1,96× TorchSpec); online steady window 8 GPU khoảng 77.721 token/s (~2,28× TorchSpec) — đây là tốc độ huấn luyện input, không phải speedup inference. Repo đạt 38 sao, giấy phép Apache-2.0.
Cách cài đặt và sử dụng ASpec?
Theo README, bắt đầu bằng setup nguồn (có thêm hướng dẫn container):
bash setup.sh
source .venv/bin/activate
CUDA_VISIBLE_DEVICES=0,1 aspec quickstart ling-tiny --output outputs/ling-tiny-001
# hoặc Qwen3-8B:
CUDA_VISIBLE_DEVICES=0,1 aspec quickstart qwen3-8b --output outputs/qwen3-8b-001
Hai profile dùng hội thoại raw kèm theo, tokenizer/template riêng và quy trình tám bước train/resume/native-export. Thêm --target /absolute/path/to/model nếu dùng checkpoint local. Recipe tiếp theo gồm Qwen3-8B DSpark quality, Qwen3.5-9B Native MTP, Qwen3.8-27B long context và Ling tiny/flash. Tài liệu: installation, quickstart, recipes.
Tin tức thêm về AI
Positron MCP: agent làm việc cạnh bạn trong IDE data science
Positron 2026.10 thêm MCP server thực nghiệm để agent bên thứ ba (Claude Code, Codex, OpenCode…) thấy data đã load, console R/Python, plot, chạy code trong console và trả lời lỗi mà không cần copy-paste. Bật bằng setting MCP: Enabled. Posit cảnh báo rõ: cho agent dùng Positron MCP tương đương cấp shell không hạn chế với credential của bạn. Nguồn: Posit Open Source Blog.
Parallel MCP 2.0: bộ công cụ nghiên cứu web cho agent
Parallel phát hành Parallel MCP 2.0: một MCP server gom search, page extraction, grounded decisions và deep research cho agent, thay vì chỉ hai tool search/fetch. Bản mặc định miễn phí và không cần API key; đăng nhập khi cần thêm tool, hạn mức cao hơn hoặc cấu hình chế độ search và loại domain. Nguồn: Parallel.
MCP reference servers: granular controls cho doanh nghiệp
Bản cập nhật MCP reference servers (khoảng đầu tháng 11) bổ sung kiểm soát chi tiết: filesystem server có cờ --read-only, fetch server có allowlist host và timeout chỉnh được, Git server thêm merge và liệt kê remote ở chế độ chỉ đọc. Các thay đổi chỉ có hiệu lực khi operator bật, nhằm đưa agent vào môi trường doanh nghiệp với bề mặt quyền hẹp hơn. Nguồn: AInvest.
Helius MCP 3.0: read-only mode cho Solana tooling
helius-mcp 3.0.0 mở rộng lên khoảng 104 action (từ 95) và thêm chế độ chỉ đọc: chạy với --read-only hoặc HELIUS_MCP_READ_ONLY=1 để chỉ phục vụ action không chuyển quỹ hay đổi state tài khoản. Transfer, staking, webhook, signup và API key setup bị tắt trên surface đó; mỗi tool có title và annotation read-only / destructive / idempotent / open-world. Nguồn: helius-labs/core-ai releases.