12GB 显存跑 125B 大模型?Strata:把整台电脑拧成一张“大显卡”的开源推理引擎
上线一个月 3.1 万 star 的开源推理引擎 Strata,让 12GB 显存的普通电脑跑起 125B 参数的 Qwen3.8-Flash-Next:显卡、内存、SSD 三层分工,一键安装、自带 OpenAI 兼容接口。本文整理官方硬件要求、三种安装方式与真实局限。
这个分类是本站教程的主入口,覆盖本地大模型、AI Agent、Docker、NAS 与 Windows 系统五个方向。写法上坚持一点:只写自己装过、跑过、踩过坑的东西,官方文档怎么说、实测结果怎么样、哪里容易翻车,都会分开写。找教程时先看每篇开头的“适合谁 / 不适合谁”和实测环境,再按文中的版本与命令操作,版本不同结果可能不同。
上线一个月 3.1 万 star 的开源推理引擎 Strata,让 12GB 显存的普通电脑跑起 125B 参数的 Qwen3.8-Flash-Next:显卡、内存、SSD 三层分工,一键安装、自带 OpenAI 兼容接口。本文整理官方硬件要求、三种安装方式与真实局限。
地球物理学家被裁后,用自己写的开源框架跑求职:69 份定制申请、20 个一面,半年后入职 AI 工程师。ai-job-search 把 Claude Code 变成求职流水线——建档案、搜岗、评估、一键生成定制简历+求职信并编译 PDF 做 ATS 检查。6.3 万 star,MIT 开源。
VoiceStudio 是 7 万 star 的开源本机版 ElevenLabs:语音克隆、视频配音、有声书全在本地跑,无账号、无 API key、不按字符计费。本文讲它能解决什么、16 个引擎怎么选、默认引擎 CC-BY-NC 非商用授权陷阱,以及装完第一步该做什么。
2.7 万 star 开源智能体审计工具 iFixAi(Apache-2.0),专查智能体有没有按规矩办事:49 项检查、A–F 评级,mock 模式零成本实测。pip 安装即用,含独立评审配置与费用参考。
AXRB 是个 Windows 实验性兼容层:Android 16 模拟器 + ARM 转译 + 本机 GPU 渲染,把 Quest 独占游戏桥接到 SteamVR,在 PCVR 头显上跑出一体机给不了的画质。本文整理工作原理、硬件要求、安装步骤、真实 issue 里的坑与局限。
HeyGen 开源的 HyperFrames(约 5.9 万 star)把视频做成一个 HTML 文件:无头 Chrome 逐帧截图加 FFmpeg 编码,输出可复现的 MP4,专为 AI Agent 批量出片设计。本文梳理手动 CLI 与 Agent 两条上手路线、硬件要求和避坑点。
Docker 官方开源智能体工具 Docker Agent:模型、指令、工具全写进一个 YAML,一条命令跑起来;能接云端模型,也能接 Docker Model Runner 本地跑,不用 API Key。本文讲清安装、最小配置、多智能体与 MCP 工具、本地路线门槛和常见坑。
claude-mem 是 9.6 万 Star 的开源插件,给 Claude Code、Codex 等编程 Agent 加上跨会话持久记忆:自动记录、压缩并在新会话注入相关上下文。本文讲清原理、三步安装、中文模式与常见坑。
微软 9 月 29 日让 WSL 容器正式转正:wsl –update 之后,wslc 就能在 Windows 上构建、运行 Linux 容器,命令与 Docker 基本同构,还带专门给本地 AI 应用调用的 API。本文梳理上手路径、与 Docker Desktop 的取舍边界,以及 Compose 没来之前哪些人先别换。
Agent Reach 是 8.9 万 star 的开源能力层,让 Claude Code、OpenClaw 等 AI Agent 一句话打通 YouTube、B站、Reddit、小红书等 13 个平台,免 API 费,自带体检和多后端路由。
WeKnora 是腾讯开源的自托管 LLM 知识库平台:把文档、飞书、语雀、Notion 里的资料变成带引用的 RAG 问答库,还带 Agent 智能推理和自动 Wiki。本文介绍 Docker 一键部署、模型接入、硬件要求与常见问题。
详尽记录基于 Docker 自建 RustDesk 服务端全流程。深入分析 OpenWrt 端口映射、双网卡非对称路由断流、无头 Windows 虚拟机“没有显示器”报错解决及低延迟性能调优实战。