概况：大模型（LLM）的发展带来的技术红利，以及企业业务逐渐向AI转型，LLM 常见的安全漏洞、网络攻击手段变化已经成为企业要迫切关注的问题，本文来探讨一下，如何通过 API 管理策略有效防范LLM的风险。 近年来，随着大型语言模型技术的迅猛发展，各行各业对AI 应用或者业务与AI的结合的热情不断高 ...

让我们直奔主题： 检索增强一代Retrieval-Augmented Generation（RAG）系统正在重塑我们处理人工智能驱动的信息的方式。作为架构师，我们需要了解这些系统的基本原理，才能有效利用它们的潜力。 什么是 RAG？ RAG 系统的核心是通过将 LLM 与外部知识源整合，增强 LLM ...

在人工智能开源开放生态分论坛上，中国电信天翼云产品专家、魔乐社区负责人李宝龙发表《与魔乐一起，繁荣AI生态》演讲，向与会嘉宾分享了天翼云通过魔乐（Modelers）开发者社区，团结国内AI产业链，携手业界共同促进AI生态繁荣的创新成果和实践案例。 ...

为加快落实“人工智能+”行动，中国电信集团有限公司充分发挥央企在人工智能领域主力军作用，联合华为技术有限公司共同举办“天翼云息壤杯”高校AI大赛。 ...

本博客所有文章除特别声明外，均采用CC BY-NC-SA 4.0许可协议。转载请注明来自 唯你 背景 在 Rust 中，使用 println!打印日志时，输出实际上是发送到标准输出（stdout），而 Android Logcat 专门用于处理和显示应用程序的日志信息，此环境下标准输出实现被重新定义 ...

简介 顶点着色是一种将颜色信息直接应用于网格顶点的简便方法。这种方式常用于生成式 3D 模型的构建，例如 InstantMesh。然而，大多数应用程序更偏好使用 UV 映射的纹理化网格。 本教程将介绍一种快速的解决方案，将顶点着色的网格转换为 UV 映射和纹理化的网格。内容包括 [简短版](# 简短 ...

作为开发者，最让我们头疼的事情是什么？那必须是环境配置、版本控制以及各种部署配置等等繁琐的工作。 想象一下，如果你只需点击几下鼠标，就能拥有一个完全配置好的开发环境，支持从 Java 到 Python，从 React 到 Vue 的各种主流技术栈。 而且可以自动分配域名、HTTPS 证书，免去繁琐的 ...

随着大模型的发展，越来越多企业将生成性AI应用投入生产和业务当中，因而企业组织的系统应用也将面临前所未有的多重挑战，包括：如何遵循AI安全政策、如何理解用户行为，以及确保应用的可靠性和性能。AI网关旨在帮助企业应对AI调用的挑战及更多问题。AI网关充当组织内AI的中心访问点，通过单一接口无缝集成多个 ...

Machine Learning Containers for Jetson and JetPack 项目地址：项目仓库 介绍： 他的用途大概是帮助开发者快速的构建和运行一些docker镜像，比如ollama、llama-factory等热门项目都支持。在运行和构建的过程中针对jetson有做相当的 ...

0 引言 Redis 作为一种高效的内存型键值数据库，得益于其底层数据结构的精妙设计。对于 List 类型的数据，Redis 从早期的简单链表（linkedlist），到压缩列表（ziplist），再到如今的 quicklist 和 listpack，不断优化以平衡内存利用率和性能。这篇文章将深入剖 ...

Scaled Dot-Product Attention 的公式中为什么要除以 \(\sqrt{d_k}\)？ 在学习 Scaled Dot-Product Attention 的过程中，遇到了如下公式 \[ \mathrm{Attention} (\mathbf{Q}, \mathbf{K}, \ ...

作为一名在关系型数据库系统领域拥有二十多年经验的解决方案架构师，我最近开始探索 MariaDB 的新矢量版，看看它能否解决我们面临的一些人工智能数据挑战。快速浏览一下似乎很有说服力，尤其是它如何将人工智能的魔力直接带入常规数据库设置中。不过，想通过一个简单的用例对它进行测试，看看它的实际表现如何。在 ...

本教程以一个智能合约（使用 NEAR 的一个官方 Fungible Tokens 来实现）的例子来介绍一下 Devbox 的强大功能，轻松构建环境，轻松发布。 NEAR 是一个去中心化的应用平台，使用了分片技术的区块链。 免责申明：本教程仅适合用来学习智能合约。 Fungible Tokens 我就 ...

服务器端训练yolov5使用tensorboard＋端口转发 实时查看训练成果 本文参照博客园的一位大佬（相当感谢！！！）：本地浏览器查看云服务器训练模型的tensorboard界面 - 拾一贰叁 - 博客园 服务器端操作 运行train.py开始训练 新开一个终端进入到yolov5目录 输入 te ...

0 关键收获 单元化架构提高了微服务的弹性和容错性。 可观察性对于开发和运营单元化架构至关重要。 单元路由器是单元基础架构的关键组件，它需要快速响应单元可用性和健康变化。 要成功采用单元化架构，需要全面和综合的方法来实现可观察性。 单元化架构利用与微服务相同的可观察性支柱，但需要定制以适应这种架构特 ...

关注TechLead，复旦AI博士，分享AI领域全维度知识与研究。拥有10+年AI领域研究经验、复旦机器人智能实验室成员，国家级大学生赛事评审专家，发表多篇SCI核心期刊学术论文，上亿营收AI产品研发负责人。 在过去的几个月中，AI驱动的编程助手领域发生了一些令人难以置信的发展。诸如Claude A ...

在端侧部署 Transformer 模型需要仔细考虑性能和兼容性。Python 虽然功能强大，但对于部署来说有时并不算理想，特别是在由 C++ 主导的环境中。这篇博客将指导您如何使用 Optimum-Intel 和 OpenVINO™ GenAI 来优化和部署 Hugging Face Transf ...

前段时间，一款名为《黑神话：悟空》的单机游戏爆火出圈，关于它的消息几乎刷爆了所有的社交媒体。 虽然很多人对游戏不感冒，但你仍然可以抓住热点，发周边内容来狠狠地赚一笔。快手、抖音、小红书等各个平台流量都很火爆，比如有人制作了悟空的时装走秀视频： 还有其他博主搞出了一堆的周边内容，比如卖衣服、卖杯子等等 ...

前言 如果你看过别人的工作流，很有可能会发现每个人用的都不一样，如果不搞清楚其中的根本思想，总会有种不踏实的感觉，好像会用了，又好像不会。本文就来介绍一下 ComfyUI 中的局部重绘的三种基础方法。 局部重绘的三种思想 首先介绍一下局部重绘的三种方法：分别是 VAE 内补编码器、 设置 Laten ...

0 关键收获 单元化架构通过减少故障的爆炸半径来增加系统弹性 单元化架构是那些任何停机时间都被认为是不可接受的，或者可以显著影响最终用户的系统的一个好选择 单元化架构通过强制使用固定大小的单元作为部署单元，并倾向于扩展而不是扩展的方法，增强了微服务的可伸缩性模型 单元化架构通过将各种组件（可能是微服 ...