Python 原生封装 Llama.cpp 大模型推理接口
本文以通义千问Qwen量化GGUF模型为案例,基于Llama.cpp框架展示本地大模型调用与功能开发的完整实现原理及流程。全文采用原生Python编写代码案例,无需依赖重型AI框架,依次实现模型元数据解析、本地接口单次对话调用、多轮对话持久化记忆、自定义工具调用拓展等功能实现逻辑,针对直接调用大模型... ...
创号一年,我和我的一百万字博客。
时间过的还是挺快的,我在 25 年的 9 月 26 号开通这个账号,到现在已经快一年了,总计 发表了 141 篇博客,累计字数已经超 100 万了。 而距离上次更新已经快一个半月了,可以说是创号以来最长的更新间隔了,但其实只是毕业后犯懒了,下个月初去深圳读研,简单总结一下关于账号本身和之后的内容方向 ...
USB深度解析(二):设备枚举
USB协议定义了一套标准化的设备描述符体系和主机标准请求指令,并通过固定的设备枚举流程,完成主机与设备的握手、信息交互、地址分配、功能配置。这是USB设备从“硬件接入”到“系统可用”的核心逻辑,也是USB即插即用特性的底层实现原理。 ...
61 亿次请求背后:LLM Serving 的 Cache 与调度难题
本文基于CompanyX一年61.2亿次真实LLM请求Trace,揭示Serving工作负载动态演化规律:长输入/短输出趋势凸显、Prefix Cache复用呈强时间局部性(99%在15分钟内),并首次系统论证多节点下“缓存复用”与“负载均衡”的本质权衡——Cache-aware路由可提升效率,仅牺... ...
TabPFN 模型实践:分钟频选股与收益率预测
本文以分钟频股票因子预测未来 30 分钟收益率为例,结合 DolphinDB 完成股票池筛选、因子宽表转换、价格数据合并和回测验证,再在 Python 中使用 TabPFN 进行建模和预测,最终基于预测结果构建行业内 TopN 选股策略。 ...
MinIO 停止维护怎么办?Docker 迁移 RustFS 实战:数据零丢失
MinIO 社区版已于 2026 年归档停止维护,安全漏洞不再修复。本文以开源项目 youlai-boot 的文件存储为例,记录 Docker 部署的 MinIO 迁移到 RustFS 的完整过程:旧数据整目录复制、RustFS 直接识别、客户端切换 AWS SDK 标准实现。endpoint 和桶... ...
从实战到生产:Acl.Excel 八大场景与避坑指南(终篇)
汇总 Acl.Excel 在生产环境的八大典型场景与避坑要点,覆盖大文件流式、并发写入、NuGet 接入与性能调优,并给出选型与落地建议(基于 4.0.1)。 ...
Claude Code 越用越贵?6 招省 token + 1 个作息技巧,把额度榨干
用 Claude Code 写代码、干活,爽是真爽,但额度也是真不经用。 同样一个任务,有人半天就把额度耗光,有人一整天都够用。差别往往不在"用得多不多",而在"会不会用"。 这篇分两部分:先用 6 招让每一个 token 都花在刀刃上(额度更耐用),再用 1 个作息技巧让满额度正好落在你最忙的时候 ...
【译】Visual Studio 七月更新 —— 认识全新智能体,由 GitHub Copilot SDK 提供技术支持
最好的人工智能助手应当是您能够引导、能够理解并且可以信赖的助手。7月更新版本正是围绕这三点打造。Copilot Chat 新增了 Agent (Preview),该智能体基于驱动 GitHub Copilot CLI 的同一套 GitHub Copilot SDK 构建,能够减少反复交互,完成更多任 ...
线上在Docker中跑MySQL会怎样
线上 Docker 运行 MySQL 可以生产使用,但切忌直接裸跑默认配置。本文剖析容器部署 MySQL 的数据丢失、IO 性能衰减、OOM、配置不当等高频坑点,对比物理机与容器部署差异。提供可直接落地的 Compose 配置、my.cnf 参数、备份脚本,结合真实面试场景梳理技术难点与解决方案,讲... ...
AI 编程时代,.NET 的机会在哪里?
.NET 开发者有一个独特的优势:我们的语言、运行时、工具链,从一开始就是为"管理复杂性"设计的。在 AI 时代,这个优势不仅没有消失,反而因为 Agent 对确定性、可观测性、治理能力的渴求而变得更加重要。AI 不会取代程序员,但会取代那些不理解"为什么需要基本功"的程序员。 .NET 社区,正好... ...
DeepSeek Harness:从固定内核到可塑运行时
摘要:DeepSeek Harness 的核心价值,是把 Agent harness 从固定内核推向可塑运行时。Cordis 管插件依赖和生命周期,Session log 保存运行事实。 ...
一名初一学生用AI开发《末日突围》3D游戏的实践过程,Visual Studio Code+DeepSeek+GPT
《末日突围》是一名初一学生在AI编程助手辅助下独立开发的3D第一人称战术射击游戏。游戏基于WebGL技术,以末日废土为背景,玩家在废弃封锁区中抵御僵尸围攻或与AI雇佣兵混战。游戏可在浏览器中直接运行,也可通过Windows桌面程序运行。 ...
干货分享Gateway踩坑实录:Netty直接内存把网关吃垮了OutOfDirectMemoryError
用户反馈请求生产网关springcloud gateway突然偶发性返回500异常,赶紧上线检查服务,发现有个别实例日志里开始零星出现 OutOfDirectMemoryError,频率还有逐渐升高的趋势,过不了一会服务基本不可用了,出现健康检测异常。完整报错信息是这样的: io.netty.uti ...
USB深度解析(一):低速、全速电气特性与通信协议
USB深度解析(一):低速、全速电气特性与通信协议 在当今的计算机外设接口中,USB(Universal Serial Bus)无疑占据着统治地位。虽然USB标准已经迭代到了高速的USB 3.x甚至USB4,但低速和全速模式作为USB架构的基石,定义了USB最初也是最底层的连接逻辑。高速的USB协议 ...
Vibe Coding 月提交量 29 亿次之后:GitHub 的危机、Azure 迁移,以及 .NET 的机会
GitHub 的危机证明:为人类设计的开发基础设施已到极限,下一个平台层将围绕 agent 的流量形态、上下文治理和审计需求重建。 ...
【Agentic RL / 强化学习框架 / VERL】Uni-Agent Gateway 深度解析
【Agentic RL / 强化学习框架 / VERL】Uni-Agent Gateway 深度解析 目录【Agentic RL / 强化学习框架 / VERL】Uni-Agent Gateway 深度解析0x00 概要0x01. Gateway 是为了解决什么问题?1.1 VERL 原有架构的困境 ...
云原生场景下中心多级IAM(SSO)方案
现状 传统微服务下的IAM(SSO)方案,要么是使用开源的IAM系统,然后各子系统进行轻量/重量级改造来进行适配,要么是自主研发使用spring security、shiro等权限框架实现统一认证/授权。其中以Sa-Token框架较为优秀,大部分关于认证、鉴权等操作均有封装较好的函数,可以实现一行代 ...
LangGraph Server Agent 框架本地部署指南
本文讲解基于 LangGraph Server 服务搭建本地离线 AI Agent 的完整部署流程,适配 Windows 开发环境,全程无需调用公有大模型接口,实现纯本地化 AI 推理与工作流编排,帮助开发者快速搭建可调试、可复用的本地私有化 AI Agent 服务,适用于个人开发、本地功能调试、轻... ...
【手搓 Agent 第2.2关】搭建 Agent 进阶能力:网络搜索工具(中)
本篇聚焦 Agent 核心智能特性,重构工具异常处理逻辑,将所有工具报错统一封装为标准对话信息喂给模型,同时实现动态工具武器库、故障熔断、权限回收机制。 ...


