Kinetic, SuperMimic: repo GitHub AI mới nổi
Một repo GitHub AI mới nổi đáng đọc kỹ khi nó đưa ra con số đo được và cách tự kiểm chứng: chạy model nhanh hơn trên máy cá nhân, huấn luyện robot với ít GPU hơn, hay tinh chỉnh LLM bằng cách thay đổi rất ít trọng số. Bài viết này của Kungfutech chọn bốn dự án theo hướng đó: Kinetic là engine chạy model GGUF trên máy cá nhân, viết bằng Rust, SuperMimic huấn luyện bộ bám chuyển động toàn thân cho robot hình người bằng một world model khả vi, Deletion Tuning là mã nguồn chính thức của một bài báo NeurIPS về hậu huấn luyện LLM bằng cách xóa trọng số, và SkyDot là bàn làm việc agent tự host cho nhiều người dùng. Mỗi mục kèm cách cài đặt lấy từ README, sau đó là một số tin tức AI đáng tham khảo.
Kinetic: engine chạy model GGUF trên máy cá nhân, tăng tốc mà không đổi kết quả
Kinetic là gì?
Kinetic là engine suy luận viết bằng Rust, đọc file GGUF (định dạng llama.cpp dùng) và chạy các model được hỗ trợ trên CPU, GPU NVIDIA qua CUDA, và GPU AMD, Intel, NVIDIA qua Vulkan, tất cả trong một file chạy. Nguyên tắc chính trong README là không kỹ thuật tăng tốc nào được làm thay đổi câu trả lời: với giải mã greedy, đầu ra trùng từng token với giải mã thông thường, và bộ test kiểm tra điều này trên mọi kiến trúc được hỗ trợ.
Các kỹ thuật bật sẵn gồm RAD-1 (speculative decoding chính xác: đoán trước vài token rồi kiểm tra tất cả trong một lượt đọc trọng số), Warm Start (tiếp tục từ trạng thái của prompt trước, nên chỉ phần token mới phải chạy) và Zero Wait (xử lý tài liệu được dán vào trong lúc người dùng còn đang gõ câu hỏi). Mỗi kỹ thuật tắt được bằng --off để tự đo.
README công bố số đo trên một laptop Ryzen 5 6600H với RTX 3060 Laptop 6 GB, so với llama.cpp b12001 cùng file GGUF và cùng thiết lập: viết lại một file với LFM3 1.7B đạt 128,1 token/giây trên CPU so với 28,1 (4,6 lần), và 1.033,7 token/giây trên GPU so với 229,7 (4,5 lần); với tài liệu 22.631 token, token đầu tiên sau khi nhấn Enter xuất hiện sau 0,13 giây so với 10,95 giây. Đây là số liệu do tác giả đo, nên kinetic bench được cung cấp để kiểm tra trên máy của chính người dùng.
Model hỗ trợ gồm Qwen3.5 (dense và MoE), Gemma 4 (E2B, E4B), Qwen3, Qwen2.5, Llama 3, Mistral, Gemma 3, LFM3, Granite, OLMo 2, Falcon-H1 cùng một số model embedding và reranker. Server nói API tương thích OpenAI, hỗ trợ tool call và structured output theo JSON Schema hoặc grammar GBNF. Kinetic chỉ chạy trên Windows và Linux x86-64, không hỗ trợ macOS. README cho biết phần mềm không kết nối mạng trừ khi chạy kinetic pull, không có telemetry. Repo có 69 sao, giấy phép Apache-2.0.
Cách cài đặt và sử dụng Kinetic?
Trên Linux:
curl -fsSL \
https://raw.githubusercontent.com/Veloresearch/kinetic/main/scripts/install.sh | sh
Trên Windows, trong PowerShell (không cần quyền quản trị):
irm https://raw.githubusercontent.com/Veloresearch/kinetic/main/scripts/install.ps1 | iex
Script cài đặt tải bản phát hành mới nhất, đối chiếu với SHA256SUMS rồi đặt kinetic vào PATH. Có thể tải archive thủ công từ trang Releases của repo, build từ mã nguồn bằng Rust 1.91 trở lên, hoặc dùng bản Python:
cargo install --locked --git https://github.com/Veloresearch/kinetic kinetic-cli
pip install kinetic-engine
Tải một model và trò chuyện:
kinetic pull LiquidAI/LFM3-1.7B-GGUF:Q4_K_M
kinetic chat LiquidAI/LFM3-1.7B-GGUF
Chạy kinetic không kèm tham số để công cụ kiểm tra máy và gợi ý hai đến ba model phù hợp. kinetic models liệt kê các model đã có trong Ollama, LM Studio và cache Hugging Face. Để dùng từ ứng dụng:
kinetic serve model.gguf
Server lắng nghe tại http://127.0.0.1:8080/v1, mọi client OpenAI hoặc agent framework nhận base URL đều kết nối được. Thêm --api-key để bắt buộc khóa trên mọi route trừ /health.
SuperMimic: huấn luyện robot hình người bằng một world model khả vi
SuperMimic là gì?
SuperMimic là mã nguồn của bài báo cùng tên của nhóm UC Berkeley (CoRL 2026), huấn luyện một bộ bám chuyển động toàn thân (whole-body motion tracker) cho robot hình người, xây trên mjlab. Thay vì PPO không mô hình chạy trực tiếp trong simulator, SuperMimic học một world model từ dữ liệu chuyển đổi trạng thái của MuJoCo Warp, rồi lấy gradient của policy qua chính world model đó. World model và policy được cập nhật cùng nhau trong mỗi vòng lặp; simulator không cần khả vi.
Theo trang dự án, SuperMimic vượt normalized return 0,90 của checkpoint SONIC sau 3 giờ trên một GPU H100, trong khi SONIC được báo cáo huấn luyện 7 ngày trên 128 GPU L40 (khoảng 21.000 GPU-giờ). Trên 129.514 chuyển động, checkpoint SONIC thất bại 179 chuyển động, gồm mọi cú lộn và lăn ngang; SuperMimic thất bại 25 sau 3 giờ trên một GPU và không thất bại chuyển động nào sau 9,8 giờ trên hai GPU. Nhóm tác giả lưu ý các chuyển động benchmark cũng là dữ liệu huấn luyện của cả hai phương pháp, nên con số đo độ bao phủ chứ không đo khả năng tổng quát hóa, và hai bên khác nhau về dữ liệu lẫn phần cứng. Một policy duy nhất được chạy trên robot Unitree G1 thật mà không chỉnh riêng cho từng chuyển động. Repo có 1.027 sao, viết bằng Python, giấy phép Apache-2.0.
Cách cài đặt và sử dụng SuperMimic?
Cần GPU NVIDIA. Cài uv:
curl -LsSf https://astral.sh/uv/install.sh | sh
Clone hai repo cạnh nhau:
mkdir supermimic_ws && cd supermimic_ws
git clone git@github.com:HybridRobotics/supermimic.git
git clone git@github.com:HybridRobotics/mjlab_research.git
cd supermimic
Có hai task: SuperMimic-GenCoord-G1 (biểu diễn tọa độ tổng quát) và SuperMimic-MaxCoord-G1 (biểu diễn tọa độ cực đại). Huấn luyện world model và policy:
CUDA_VISIBLE_DEVICES=<GPU_ID> uv run src/supermimic/scripts/train.py \
<TASK_ID> --runner.run_name <description>
Phát lại model đã huấn luyện:
uv run src/supermimic/scripts/play.py \
<TASK_ID> --wandb-path <RUN_PATH>
Trang dự án có bản demo chạy policy ngay trên trình duyệt để xem trước kết quả mà không cần GPU.
Deletion Tuning: hậu huấn luyện LLM bằng cách xóa dưới 0,05% trọng số
Deletion Tuning là gì?
Deletion Tuning là mã nguồn chính thức của bài báo "The Surprising Effectiveness of Deleting Weights in LLM Post-Training" (NeurIPS 2026) từ New York University và University of Calgary. Phương pháp học một mặt nạ nhị phân trên lớp gate projection của các khối transformer, tức là chọn trọng số tiền huấn luyện nào bị đặt về 0, không thay đổi gì khác.
Theo README, xóa chưa tới 0,05% trọng số cho kết quả ngang full fine-tuning ở quy mô lớn trong ba chế độ hậu huấn luyện: học tăng cường với phần thưởng kiểm chứng được (GRPO), supervised fine-tuning và on-policy distillation. Mặt nạ sau huấn luyện nhỏ hơn checkpoint full fine-tuning hàng trăm đến hàng nghìn lần. Phương pháp cũng quên ít hơn: dưới học tăng cường, độ chính xác trên các tác vụ cũ gần như giữ ở mức model gốc, trong khi full fine-tuning, LoRA và sparse fine-tuning ngẫu nhiên mất tới 5,4 điểm. Repo hỗ trợ Llama 3.x trên GSM8K, Qwen2.5 từ 0.5B tới 14B và Qwen3-30B-A3B (MoE) trên SimpleRL-Zoo, cùng các thí nghiệm SFT trên MMLU-Pro và BBEH. Các mặt nạ đã huấn luyện được công bố trên Hugging Face. Repo có 50 sao, giấy phép MIT.
Cách cài đặt và sử dụng Deletion Tuning?
Ba chế độ huấn luyện dùng ba môi trường riêng, tạo bằng uv. Môi trường GRPO:
uv venv envs/grpo --python 3.10 && source envs/grpo/bin/activate
uv pip install torch==2.8.0 torchvision==0.23.0 torchaudio==2.8.0 --index-url https://download.pytorch.org/whl/cu126
uv pip install https://github.com/Dao-AILab/flash-attention/releases/download/v2.8.3/flash_attn-2.8.3+cu12torch2.8cxx11abiTRUE-cp310-cp310-linux_x86_64.whl
uv pip install vllm==0.11.0
uv pip install -r requirements_grpo.txt
uv pip install -e "./verl[gpu,vllm,math]"
Môi trường SFT và SDFT:
uv venv envs/sft --python 3.10 && source envs/sft/bin/activate
uv pip install torch==2.7.1 --index-url https://download.pytorch.org/whl/cu126
uv pip install -r requirements_sft.txt
uv venv envs/sdft --python 3.12 && source envs/sdft/bin/activate
uv pip install -r requirements_sdft.txt
bash sdft/setup.sh
Chuẩn bị dữ liệu, huấn luyện một model với thiết lập của bài báo rồi đánh giá mặt nạ:
bash scripts/prepare_grpo_data.sh
bash scripts/train_grpo.sh llama1b outputs/grpo/llama1b
bash scripts/evaluate_grpo.sh llama1b outputs/grpo/llama1b/global_step_125/mask outputs/eval/llama1b
Không muốn tự huấn luyện thì tải mặt nạ có sẵn, đánh giá, rồi áp vào model gốc để có một model chuẩn nạp được bằng Transformers hoặc vLLM:
hf download Jacklu0831/deletion-tuning-masks --include "grpo/qwen2.5-7b-simplerl-zoo/*" --local-dir masks
bash scripts/evaluate_grpo.sh qwen7b masks/grpo/qwen2.5-7b-simplerl-zoo outputs/eval/qwen7b
python src/apply_mask.py --base_model Qwen/Qwen2.5-7B --mask_dir masks/grpo/qwen2.5-7b-simplerl-zoo \
--output_dir outputs/masked/qwen7b
Đặt METHOD=fft trước lệnh huấn luyện để chạy baseline full fine-tuning so sánh.
SkyDot: bàn làm việc agent tự host cho cá nhân và nhóm
SkyDot là gì?
SkyDot là bàn làm việc agent mã nguồn mở, tự host, nhiều người dùng, chạy trên Pi Agent Runtime. Người dùng tạo các "Dot", tức agent có tên, avatar, prompt, model, mức suy nghĩ, skill, MCP và chính sách thực thi riêng, rồi trò chuyện trực tiếp hoặc đưa nhiều Dot vào một nhóm chat chung để thảo luận và giao việc cho nhau.
Kiến trúc tách bạch: backend lo xác thực, lưu trữ, hàng đợi, lịch chạy, provider và kênh kết nối; runner thực thi agent trên máy chủ (Host) hoặc trong container Docker không chạy quyền root; workspace quyết định ranh giới file, phiên, bộ nhớ và quyền. Giao diện Electron không được chạm trực tiếp vào cơ sở dữ liệu, file, thông tin đăng nhập hay shell. Các tính năng khác gồm tác vụ định kỳ (cron, khoảng thời gian cố định, chạy một lần), bộ nhớ theo workspace có lịch sử phiên bản, quản lý tập trung skill, MCP và plugin, dùng được qua web, PWA, ứng dụng desktop và các kênh như Feishu, Telegram. Nhóm chat nhiều Dot và việc giao việc giữa các bot mặc định tắt, phải bật bằng biến môi trường. Mặc định SkyDot dùng giao thức anthropic-messages, có thể chuyển sang API kiểu OpenAI Completions. Repo có 121 sao, viết bằng TypeScript, giấy phép MIT, tài liệu viết bằng tiếng Trung.
Cách cài đặt và sử dụng SkyDot?
Cần Node.js 22.19 trở lên (khuyến nghị 24 LTS) và npm; Docker chỉ cần cho chế độ container. Clone và cài đặt:
git clone https://github.com/2SinceJuly/SkyDot.git
cd SkyDot
npm install
npm --prefix web install
npm --prefix container/agent-runner install
Build và chạy:
npm run build:all
npm start
Mở http://127.0.0.1:3000 để khởi tạo tài khoản quản trị. Provider và kênh kết nối có thể để sau; khi chưa cấu hình model thì chưa trò chuyện với AI thật được. Chế độ phát triển chạy backend và Vite cùng lúc tại http://127.0.0.1:5173:
npm run dev:all
Chế độ container cần image agent runner, có thể build từ mã nguồn:
docker build --pull -t 2sincejuly/skydot-agent:latest container
Bật nhóm chat nhiều Dot bằng SKYDOT_BOT_GROUPS=true, và thêm SKYDOT_BOT_HANDOFFS=true nếu muốn các bot giao việc cho nhau. README có chế độ demo không cần đăng nhập trên địa chỉ loopback và cảnh báo không bật chế độ này trên mạng công cộng.
Tin tức thêm về AI
Anthropic mở roadshow cho đợt IPO trên Nasdaq
Anthropic khởi động roadshow cho đợt chào bán cổ phiếu lần đầu ra công chúng, gồm 825 triệu cổ phiếu phổ thông loại A với khoảng giá dự kiến 70 đến 78 USD mỗi cổ phiếu, niêm yết trên Nasdaq Global Select Market với mã "ANT". Trong đó 801.351.354 cổ phiếu do Anthropic bán và 23.648.646 cổ phiếu do một số cổ đông hiện hữu bán; nhà bảo lãnh có quyền mua thêm tối đa 123,75 triệu cổ phiếu. Theo TechCrunch, ở mức giá cao nhất, định giá pha loãng hoàn toàn đạt khoảng 1.404 tỷ USD, và Anthropic đồng thời thỏa thuận bán riêng 26 tỷ USD cổ phiếu loại N cho AMD, Broadcom, Google, Micron, Microsoft, Nvidia và TSMC theo giá IPO. Nguồn: Anthropic, TechCrunch, CNBC.
Google DeepMind giới thiệu Gemini Robotics 2.5
Gemini Robotics 2.5 là model vision-language-action mà Google DeepMind mô tả là mạnh nhất của hãng, chuyển đầu vào hình ảnh và ngôn ngữ thành điều khiển động cơ cho nhiều loại robot, từ hai tay máy tới robot hình người. Trên hơn 200 tác vụ như gắp thức ăn bằng kẹp, thắt nơ hộp quà hay hút chất lỏng bằng pipet, DeepMind báo cáo tỷ lệ thành công cao hơn 30% đến 100% so với các baseline trước và hoàn thành nhanh hơn 20% đến 30%. Trong một thử nghiệm thực tế trên dây chuyền Mercedes-Benz, robot Apollo 2 của Apptronik phân loại linh kiện ô tô với tỷ lệ thành công 96%. DeepMind cũng công bố benchmark ASIMOV-jailbreak để kiểm tra robot trước các tấn công jailbreak. Model đang được triển khai tới các đối tác robot. Nguồn: Google DeepMind, Ars Technica.
New York mở cổng đăng ký theo luật RAISE và trung tâm kiểm thử AI độc lập
Văn phòng DIGIT của bang New York mở RAISE Portal để các nhà phát triển AI tiên phong đăng ký theo luật RAISE. Các nhà phát triển lớn phải đăng ký, công bố khung an toàn AI, gửi tóm tắt đánh giá rủi ro thảm họa mỗi ba tháng; mọi nhà phát triển tiên phong phải công bố báo cáo minh bạch về model và báo cáo sự cố an toàn nghiêm trọng trong vòng 72 giờ. Cùng lúc, bang ra mắt New York Center for AI Responsibility and Research tại Binghamton University để kiểm thử độc lập các hệ thống AI tiên phong. Theo các bài tường thuật, trung tâm chỉ đánh giá được model và dữ liệu đã công khai, không tiếp cận model nội bộ chưa phát hành. Nguồn: Thống đốc bang New York, NY DFS, SiliconReport.
Stripe hoàn tất thương vụ mua OpenRouter
Stripe thông báo OpenRouter, nền tảng gateway định tuyến yêu cầu tới hơn 400 model của hơn 80 nhà cung cấp, đã chính thức thuộc về Stripe. OpenRouter chọn model cho từng yêu cầu dựa trên độ phức tạp, giá, tốc độ và độ tin cậy, và cho biết hơn 10 triệu nhà phát triển và doanh nghiệp đang dùng dịch vụ. Stripe không công bố giá trị thương vụ; The New York Times dẫn một nguồn nắm thông tin cho biết con số là 7,5 tỷ USD. Thương vụ đã được cơ quan cạnh tranh Úc ACCC chấp thuận. Nguồn: Stripe, The New York Times, ACCC, ChainCatcher.