AI
刷新
知识蒸馏实战

博主头像 蒸馏实战小实验 本实验相关代码已开源至github 失败经历 爱爱医数据蒸馏Qwen2.5-7B 1.用爬虫在爱爱医网站爬取1k条数据。(刚学一点爬虫,不会越过验证码,还是自己一次一次验证) 2.数据格式预处理,例如: { "instruction": "你需要基于我提供的患者病历,推理并生成完 ...

Windows系统上使用Ollama本地部署DeepSeek

博主头像 前排提醒: 1. 操作系统为Windows11 2. 受限于硬件资源,本地部署的DeepSeek为DeepSeek-R1 14B Ollama安装 第一步: 打开浏览器,在地址栏输入网址:https://ollama.com/ ,进入Ollama官网 第二步: 点击上图中的“Download”按钮, ...

张高兴的大模型开发实战:(三)使用 LangGraph 为对话添加历史记录

目录基础概念环境搭建与配置将对话历史存储至内存将对话历史存储至 PostgreSQL 在构建聊天机器人时,对话历史记录是提升用户体验的核心功能之一,用户希望机器人能够记住之前的对话内容,从而避免重复提问。LangGraph 是 LangChain 生态中一个工具,通过将应用逻辑组织成有向图(Grap ...

入门Dify平台:知识库分析

博主头像 今天,我们来简单了解一下 Dify 的知识库功能。其实,它并没有想象中那么复杂或难以操作。无论是 Dify 还是其他类似平台,都已经将知识库的功能封装得非常完善。你可以直接把它当作一个云端的记事本,内容存储则完全交由服务器完成,无需过多操心。 知识库 知识库主要用于存储和管理各类业务问答、操作逻辑, ...

LLM应用落地实施手册

博主头像 背景 自ChatGPT诞生以来,各个企业都开始尝试引入LLM落地实施“智能”应用,而目前并没有太多文章系统地介绍应该怎么落地实施一个基于LLM的应用,到底应该做哪些步骤。本人从2023年12月份开始,陆陆续续开发了3个LLM应用的项目了。这几个项目都是会话型的应用,都借助了LLM的能力,所以想趁着记 ...

使用Inspector调试MCP服务

MCP Inspector 是专为 Model Context Protocol(MCP)服务器设计的交互式调试工具,支持开发者通过多种方式快速测试与优化服务端功能。 https://github.com/modelcontextprotocol/inspector 一、安装和启动 Inspecto ...

编程神器Trae:当我用上后,才知道自己的创造力被低估了多少

博主头像 "AI会让每个人都能成为工具创造者,打破你能力边界,有时候只需要一个想法。" AI粉嫩特攻队,2025年3月23日。 前几天参加了一场行业闭门研讨会,满满1个半小时的干货演讲让我收获颇丰。会后,我迫不及待地想将录音整理成文字,方便日后回顾。却被提示"文件过大"、"超出免费额度"、"需要登录账号".. ...

大模型推理能力的局限性

博主头像 0 前言 LLM凭借其生成连贯文本、翻译语言甚至进行对话的能力,彻底改变人工智能领域。然而,尽管这些模型表现出色,它们在推理和理解复杂上下文方面仍然面临重大挑战。 这些模型擅长识别并模仿训练数据中的模式,但当任务需要真正的理解和逻辑推理时,它们往往遇困。可能导致: 长对话中的不一致 难以关联分散的信 ...

SmolVLM2: 让视频理解能力触手可及

博主头像 一句话总结: SmolVLM 现已具备更强的视觉理解能力 SmolVLM2 标志着视频理解技术的根本性转变——从依赖海量计算资源的巨型模型,转向可在任何设备运行的轻量级模型。我们的目标很简单: 让视频理解技术从手机到服务器都能轻松部署。 我们同步发布三种规模的模型 (22 亿/5 亿/2.56 ...

github-copilot生成单元测试

博主头像 我们为控制器或者工具类生成单元测试是非常有必要的,这可以很大程度上提升软件交付的质量,下面我使用github copilot来快速生成单元测试 打开要生成单元测试的类,右键选择github copilot,选择generate tests,根据类来生成对它内部方法的单元测试 新建单元测试文件,空白文 ...

入门Dify平台:工作流节点分析

博主头像 要让智能体在实际应用中表现出色,掌握工作流的使用至关重要。今天,我们将深入探讨Dify平台中的各个节点的功能,了解它们的使用方法以及常见的应用场景。通过对这些节点的全面了解,将能够高效地设计和优化智能体的工作流流程。好了,言简意赅,直接进入正题。 节点概览 首先,我们创建一个工作流或者是chatfl ...

AI时代提升程序员代码能力的策略(总结版)

博主头像 以下是能力储备与提升方式的极简总结: 1. 工具掌握:AI提效 生成代码:用Copilot/ChatGPT生成代码框架,手动优化逻辑与边界。 测试调试:AI生成测试用例+人工补充边界场景。 优化重构:AI扫描性能瓶颈,人工适配业务需求。 2. 技术深度:领域专精 懂AI原理:学习Prompt Eng ...

MCP:AI 时代的工具接口标准?

博主头像 0 前言 自从 OpenAI 在 2023 年推出函数调用(Function Calling),我一直思考,咋能真正解锁 AI Agent与工具的生态系统。随基础模型越来越智能,AI Agent与外部工具、数据和 API 的交互方式却变得越来越碎片化——开发者需针对每一个系统单独编写业务逻辑,让Ag ...

Conda环境安装

博主头像 Conda环境安装 作者:陈敬(http://www.jyes.top) 前言 在学习AI相关知识时,需要安装Conda、Python、Jupyter Notebook等环境。本文将介绍如何使用Conda安装Python、Jupyter Notebook等环境。 一、下载Anaconda Anaco ...

提示词工程师自白:我如何用一个技巧解放自己的生产力

博主头像 “在AI时代的交响乐中,提示词工程师是默默无闻却至关重要的指挥家,用精心编织的语言指引大模型这个智能巨兽创造出人类思维的奇迹。” AI粉嫩特攻队,2025年3月22日。 自从新的生产范式诞生以来,我的工作中多了一项新身份——提示工程师。 在不同的大语言模型之间穿梭,寻求同频共振,研究了各种提示词范式 ...

《AI未来进行式》(DeepSeek、宇树科技、人形机器人、AI面试官本书全部预言。第18届文津提名奖,樊登、俞敏洪、刘慈欣等推荐) | PDF免费下载

博主头像 《AI未来进行式》深入探讨人工智能的最新进展与未来趋势,涵盖 DeepSeek、宇树科技、人形机器人、AI 面试官等前沿话题。通过翔实案例与专业分析,预测 AI 如何重塑社会、产业与人类生活。荣获第18届文津图书奖提名,获樊登、俞敏洪、刘慈欣等推荐,适合对 AI 未来充满好奇的读者。 ...

《AI未来进行式》PDF下载

人工智能专家李开复与科幻作家陈楸帆创造性合作,畅想了 20 年后在人工智能等科技影响下的人类世界。书中 10 个引人入胜的短篇故事,展示了一系列令人大开眼界的未来场景——身临其境的沉浸式娱乐方式、自如使用人类语言的虚拟伴侣、 没有“司机”的完全自动驾驶汽车、能够以假乱真的照片和视频,以及基于量子计算... ...

<1···121314···50>