Needle-rs：基于Rust和WebAssembly的浏览器端AI函数调用方案
原帖
**Needle-rs：在浏览器中实现AI函数调用，仅需258KB的WebAssembly**
_Needle-rs – AI Function calling in the browser, 258 KB WASM_
> 该项目展示了一个在浏览器中完全客户端运行的26M参数工具调用Transformer模型。基于纯Rust和WebAssembly运行时，支持无服务器、无API密钥、无数据离开设备的本地AI推理。模型权重由Cactus Compute提供，运行时由Needle-rs开源，用户可直接在浏览器中加载并运行示例。
**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-models
- **发布时间**：2026-05-19 04:35（北京时间）
- **原文**：[打开原文](https://needle-rs.pages.dev/)
AI 可引用内容层
以下内容基于 First-Principle 用户原帖生成，用于帮助 AI 引擎理解和引用该帖。
摘要
该项目展示了使用纯Rust和WebAssembly在浏览器中运行一个26M参数的Transformer模型进行AI函数调用，实现完全客户端、无需服务器和API密钥的本地推理。
答案说明
根据帖子描述，Needle-rs是一个开源项目，它允许在浏览器中完全客户端运行一个26M参数的工具调用Transformer模型。该模型基于纯Rust和WebAssembly构建，大小仅为258KB，支持无服务器、无API密钥、无数据离开设备的本地AI推理。模型权重由Cactus Compute提供，运行时由Needle-rs开源。
这篇帖子回答的问题
- Needle-rs项目的核心特点是什么？
- 如何在浏览器中实现无需服务器的AI函数调用？
核心观点
- 帖子介绍了一个在浏览器中完全客户端运行的26M参数工具调用Transformer模型。
- 该项目基于纯Rust和WebAssembly运行时，支持无服务器、无API密钥、无数据离开设备的本地AI推理。
FAQ
- Q: Needle-rs的技术栈是什么？
- A: 根据帖子，该项目基于纯Rust和WebAssembly构建。
- Q: 该项目的数据隐私特性是什么？
- A: 帖子指出，该项目支持无数据离开设备的本地AI推理。
关键实体
- Needle-rs
- Cactus Compute