告别 CUDA!GPULlama3.java 横空出世,Java 首次实现原生 GPU 跑大模型
本文已收录在Github,关注我,紧跟本系列专栏文章,咱们下篇再续! 魔都架构师 | 全网30W技术追随者 大厂分布式系统/数据中台实战专家 主导交易系统百万级流量调优 & 车联网平台架构 AIGC应用开发先行者 | 区块链落地实践者 以技术驱动创新,我们的征途是改变世 ...
花150元,我用 AI 做出了千万播放的爆款视频!保姆级教程+完整提示词
传统的 ASMR 视频是需要准备一个高质量的人头麦克风(估计要几千块吧),从而达到更好的效果,但现在随着 AI 的发展,这种视频的制作成本直接拉到了最低。 ...
AI编程在OOP场景下探索
AI编程在OOP场景下探索背景 我们Spring AI工程引用代码如下,由于基于Mock单元测试下ChatClient总是为空,异常是Cannot invoke "org.springframework.ai.chat.client.ChatClient.prompt(String)" becaus ...
Kafka运维利器:深入解析AdminClient原理与实战
本文已收录在Github,关注我,紧跟本系列专栏文章,咱们下篇再续! 魔都架构师 | 全网30W技术追随者 大厂分布式系统/数据中台实战专家 主导交易系统百万级流量调优 & 车联网平台架构 AIGC应用开发先行者 | 区块链落地实践者 以技术驱动创新,我们的征途是改变世 ...
LLM优化词工程
Prompt Enginneering 关键原则:编写清晰、具体指令 和 给予模型充足的思考时间。 设计原则及使用技巧 原则一:编写清晰、具体的指令。 清晰的表达需求,提供充足上下文,使语言模型能够准确理解我们意图。基于此原则衍生出的技巧 使用分隔符清晰地表示输入地不同部分。 提示词注入:用户输入的 ...
空有A100却在“吃灰”?给Javaer的三种CUDA“遥控器”,榨干GPU性能
本文已收录在Github,关注我,紧跟本系列专栏文章,咱们下篇再续! 魔都架构师 | 全网30W技术追随者 大厂分布式系统/数据中台实战专家 主导交易系统百万级流量调优 & 车联网平台架构 AIGC应用开发先行者 | 区块链落地实践者 以技术驱动创新,我们的征途是改变世 ...
AI辅助研发项目过程改进
背景在研发项目过程改进中,依赖专家判断的背景可归纳为以下核心要素,这些要素共同构成了专家判断在项目管理中不可或缺的支撑作用:1. 技术复杂性与项目独特性驱动的深度洞察需求现代研发项目,尤其是涉及人工智能、生物医药、高端制造等领域,技术复杂度呈指数级增长。例如,在软件开发中,需求分析、架构设计、编码实 ...
巧用OpenManus开发自动诊断Agent,解决复杂问题
智能诊断也可以打通环节,减少人工干预,准确自动分析啦!
基于OpenManus和obdiag的AI助手开发思路供大家参考。 ...
大模型的“Tomcat”:一文读懂AI推理引擎(Inference Engine)
本文已收录在Github,关注我,紧跟本系列专栏文章,咱们下篇再续! 魔都架构师 | 全网30W技术追随者 大厂分布式系统/数据中台实战专家 主导交易系统百万级流量调优 & 车联网平台架构 AIGC应用开发先行者 | 区块链落地实践者 以技术驱动创新,我们的征途是改变世 ...
2025年大模型备案全网最详细说明【附流程+学习材料】
此处,还是希望再次强调下,谨慎甄别行业里面那些说自己可以帮别的公司做大模型备案的,很多办证的代办公司基本没有那个实力可以帮别人做大模型备案,很多办证的代办公司最后接了客户订单还是会找到我们,这类人群只会两边套路,一方面问客户多要价,另一方面打压给我们的订单价,没有实力,只赚差价,实际连成功案例都拿不 ...
Manus AI 实现PDF简历转换为HTML
Manus AI 实现PDF简历转换为HTML 背景 Manus AI是由中国团队Monica.im开发的全球首款通用型AI Agent(智能体),其诞生标志着人工智能从“对话式工具”向“自主执行者”的跨越式进化。这款产品自2025年3月发布以来,凭借“端到端任务闭环”“多智能体协同”“商业化成本优 ...
谷歌新AI工具杀疯了?免费,但有点坑!Gemini CLI 抢先实测
刚刚谷歌发布了一个很有意思的新产品 Gemini CLI,直接把 AI 塞进了终端里。对标 Claude Code,现在还有免费使用额度、而且最好的是代码开源! ...
打工人必看!OceanBase 向量数据库让你的 AI 检索效率暴增,告别重复查找!
通过 Dify + OceanBase 或 FastGPT + OceanBase 这两套组合,我们可以轻松搭建出一套真正实用的 AI 检索系统。 ...
《机器人SLAM导航核心技术与实战》第1季:第12章_典型自主导航系统
《机器人SLAM导航核心技术与实战》第1季:第12章_典型自主导航系统 视频讲解 【第1季】12.第12章_典型自主导航系统-视频讲解 【第1季】12.1.第12章_典型自主导航系统_ros-navigation导航系统-视频讲解 【第1季】12.2.第12章_典型自主导航系统_riskrrt导航系 ...
清华大学出品-《AI赋能教育:高考志愿填报工具使用指南》-PDF下载
用最短的时间做出最正确的人生选择,由清华大学新闻学院、人工智能学院双聘教授沈阳团队与余梦珑博士后联合推出的《AI赋能教育:高考志愿填报工具使用指南》,为广大高考生提供了一种全新的参考路径。 ...
OceanBase向量检索在货拉拉的探索和实践
作者:陈铨,货拉拉大数据技术与产品部高级大数据工程师 首先为大家推荐这个 OceanBase 开源负责人老纪的公众号 “老纪的技术唠嗑局”,会持续更新和 #数据库、#AI、#技术架构 相关的各种技术内容。欢迎感兴趣的朋友们关注! 货拉拉成立于2013年,成长于粤港澳大湾区,是从事同城跨城货运、企业版 ...
基于大模型SSE的HTTP API接口测试与评估
背景 裁判模型是专用于评估智能体输出质量的辅助模型,该模型在评测中充当裁判员的角色,对评测对象输出的生成结果进行质量评估,并根据评测规则对每一条回复进行打分。裁判模型也可以评测主观问题和开放性问题,只需要用户 Query 和模型回复,即可自动对评测对象的表现进行质量评估与评价,无需人工标注,流程高度 ...
veRL代码阅读-2.Ray
看VeRL代码之前发现代码里主要使用了ray框架来进行调度和通信. 所以先对ray进行初步学习, 后续有空闲时间再细看下Ray的代码. 框架原理 构成 架构图如下, ray里主要分为系统层面的layer和应用层的layer. 系统层layer: GCS(Global Control Store): ...