9.2 KiB
在你自己的电脑上运行强大的 AI。
本地聊天、写代码、处理图片。
English · 简体中文 · 日本語 · Deutsch · Français · Español · Português · Polski
免费、开源,由你自己运行。 在桌面上使用 Strata,或搭配你喜欢的编程工具。无需账号。
模型
我们首先推荐 ISTA-DASLab,其次是 Unsloth 和其他提供方,前提是有内存放得下的兼容模型。
Qwen3.8-Flash-Next
| 提供方 | 可选项 |
|---|---|
| ISTA-DASLab · 推荐 | Q2_0, IQ2_XS, IQ3_XXS, IQ3_S。Coder:IQ1_M,适合写代码。 |
| Unsloth | UD-IQ4_XS, UD-Q4_K_XL, UD-Q5_K_XL, UD-Q6_K_XL, Q8_0 |
| Gyro · agentionai | Gyro-S, Gyro-M。占用内存更少,但速度更慢。 |
| 其他选项 | Swift 1.5, NVFP4, OrcaRouter |
DeepSeekV4.1-Flash-1017
可在桌面应用和终端中使用。内存放不下的部分会从 SSD 读取,所以需要大量空闲磁盘空间。
| 版本(ISTA-DAS) | 下载大小 | 所需空闲磁盘 |
|---|---|---|
| 1.75 bpw | 239 GB | 约245 GB |
| 2.00 bpw | 257 GB | 约265 GB |
| 2.25 bpw | 274 GB | 约280 GB |
支持 NVIDIA RTX 30、40 和 50 系列(Windows 和 Linux),以及 AMD Radeon AI PRO R9700(Linux)。安装程序会下载模型文件和 DeepSeek 引擎,然后启动模型。
strata launch --family deepseek41 --model ist-das-2.00bpw --plan
以下为 Strata 0.2.5 上 2.00 bpw 版本的实测结果。“输出”是回答的速度,“提示词”是 Strata 读取你输入内容的速度。
| 硬件 | 输出 | 提示词 |
|---|---|---|
| RTX 5070 12 GB, 64 GB 内存 | 4 到 6 tokens/s | 约 110 tokens/s(4K) |
| RTX 3060 12 GB, 46 GB 内存 | 9 到 11 tokens/s | 约 155 tokens/s(4K) |
| 1x Radeon AI PRO R9700, 251 GB 内存 | 21 到 25 tokens/s | 320 到 360 tokens/s (8K) |
| 4x Radeon AI PRO R9700 | 74 到 77 tokens/s | 400 到 450 tokens/s (8K) |
不确定哪个放得下?为你的电脑选择模型。
安装
桌面应用
下载适用于 Windows、Linux 或 Mac 的 Strata →
安装应用,选择模型,就可以开始聊天。每个系统只有一个安装程序。首次启动时,应用会下载适合你显卡的引擎。安装程序帮助。
文件: Strata-0.2.9-windows-x64-setup.exe · Strata-0.2.9-linux-x86_64.AppImage · Strata-0.2.9-macos-arm64.dmg
终端应用
更喜欢终端?安装 Strata,然后运行 strata launch。
安装命令
Linux / Mac
curl -fsSL https://github.com/Niko1221/Strata/releases/latest/download/install.sh -o install.sh && sh install.sh
Windows PowerShell
irm https://github.com/Niko1221/Strata/releases/latest/download/install.ps1 | iex
在 Windows 上,安装后请打开一个新的终端。然后运行:
strata launch
按提示下载并启动模型。终端指南。
硬件
| 支持的硬件 | 指南 |
|---|---|
| NVIDIA GeForce RTX 20 / 30 / 40 / 50 系列 | NVIDIA 安装 |
| AMD Radeon RX 7700 / 7800 / 7900、RX 9060 / 9070、AI PRO R9700 | AMD 安装 |
| AMD Radeon RX 6800 / 6900 · 实验性 | RX 6000 安装 |
| Intel Arc · Linux | Intel 安装 |
| Apple Silicon · M1 或更新 | Mac 安装 |
| AMD Ryzen AI Max · Strix Halo | Strix Halo 安装 |
工具
Claude Code · Codex CLI · OpenCode · oh-my-pi · pi.dev · Hermes Agent · OpenClaw,也可以通过兼容 OpenAI 和 Anthropic 的 API 使用更多工具。
运行 strata connect,查看你所用工具的设置方法。连接指南。
帮助
全部指南 · 故障排查 · 报告问题 · 基准测试 · 工作原理 · 参与贡献
支持 Strata
帮助本地 AI 保持开放。 GitHub 赞助或一杯咖啡,都能帮助我们在更多硬件上开发和测试。
忠实支持者
感谢每一位支持 Strata 的人。
赞助、硬件合作或其他合作: [email protected].

