GitHub火爆1比特大模型本地推理框架BitNet:让你普通 CPU 上推理
BitNet 是微软官方的 1-bit 大模型推理框架,项目名叫 bitnet.cpp,C++ 写的,MIT 协议,仓库 41086 星。它解决一个很实在的问题:大模型越来越吃内存、吃电、吃显卡,但很多人就是没有那张高端显卡,也不想把数据传上云。
基于 C++ 宿主与 CPython 嵌入的 Python 桌面应用架构方案
导语:在 Python 桌面端应用(如 PySide6 / PyQt)走向商业化或工业交付时,开发者经常面临代码安全保护难、依赖环境复杂、打包黑盒不可控等痛点。
Python 库到底装在哪?
承接上一篇:llama-server 跑起来了,然后呢?上一篇我们做了一件事:下载 llama.cpp → 放好 GGUF 模型 → 启动 llama-server → 浏览器打开 http://127.0.0.1:8080,直接聊天。到这里,一个能用的本地 AI 已经完成了。
Python3 协程:异步编程的核心机制与实战
Python 协程:从 yield 到 async/await,异步编程的进化之路写 Python 做网络请求、爬虫、Web 服务的时候,你有没有遇到过这种情况:程序卡在某个地方等响应,CPU 明明闲着,但就是干等着?协程就是解决这个问题的。
自己做了一个,Python打包exe工具
本来是想自己花钱买一个Python打包工具的,但看了一下价格。便宜的有几块的?贵的有几十的,还是有点舍不得,所以自己就做了一个。技术架构是基于pyinstaller,当然市面上很多打包工具都是基于他开发的。同时我还把使用教程和方法都写在了里面,让大家一看就能学会。
DeepSeek Harness:四种入口为何共用运行时?
同一个 Agent,既可以在浏览器里连续对话,也可以从命令行接收一个任务,跑完以后退出。它还能被 Python 或 TypeScript 程序调用,或者通过 ACP 接进编辑器和其他 Agent Client。这几种入口看起来差别很大。