needle - 端侧的超小型工具调用模型(128期 · 14,144 星)
《Github一周热点》第 128 期项目:needle - 端侧的超小型工具调用模型。Automation foundation model for tiny devices: 2-bit, 8-29 MB, tool calls, ASR, structured extraction and embeddings on phones, wearables, smart homes, robots, cars and microcontrollers.
「Github一周热点128期」图片生成3D模型、现代化Linux、Mac优化的本地模型推理、模型智能路由和端侧小模型
needle - 端侧的超小型工具调用模型
📺 出处:本文属「GitHub 一周热点」专栏第 128 期,UP 主:IT咖啡馆。
本期原视频已内嵌在正文上方,点击即可对照观看。
一句话是什么
needle - 端侧的超小型工具调用模型 —— Automation foundation model for tiny devices: 2-bit, 8-29 MB, tool calls, ASR, structured extraction and embeddings on phones, wearables, smart homes, robots, cars and microcontrollers.
为什么火
| 指标 | 实测值 |
|---|---|
| ⭐ GitHub 星标 | 14,144(数据日期 2026-10-21,GitHub 官方 API 拉取) |
| 🧩 主语言 | Python |
| 📜 开源协议 | Apache-2.0 |
| 📦 仓库 | cactus-compute/needle |
1.4 万 星意味着它在同类项目里已经跑出了规模与关注度。开源协议 Apache-2.0,可自由商用与二次开发。
视频里怎么讲的(第 128 期)
第 128 期把它作为重点项目介绍。原视频:IT咖啡馆《Github一周热点128期》,BV 号 BV1jz8C6hEz5,正上方播放器可直接看。
怎么上手
# 克隆仓库
git clone https://github.com/cactus-compute/needle.git
cd needle
# 看看它是什么
cat README.md按仓库 README 的说明装依赖、跑起来即可。主语言是 Python,有成熟的包管理器生态,npm / pip / uv 任选其一即可。
适合谁 / 不适合谁
适合:正在找 needle - 端侧的超小型工具调用模型 这类方案、且希望用开源版本自己掌控数据与部署的人;喜欢先读 README 判断能不能吃下的工程师。
不适合:需要开箱即用、零配置直接上生产的环境;不打算读文档、只想一键生成结果的用户。
项目地址 + 原视频链接
- 项目地址:https://github.com/cactus-compute/needle
- 原视频(第 128 期):https://www.bilibili.com/video/BV1jz8C6hEz5
本篇为「GitHub 一周热点」专栏第 128 期的项目卡片。专栏索引:GitHub 一周热点 · 逐期盘点