企业知识库问答为什么答不准?从分块到重排的检索链路调优手册

2周前 (09-30)25
企业知识库问答为什么答不准?从分块到重排的检索链路调优手册
某公司的内部知识库问答上线两周,反馈开始往技术这边涌。有员工问"出差住宿标准是多少",系统给出的答案引用了两年前已经废止的那版制度,数字还是旧的。换个人问"IT-032…

多智能体协作怎么编排?几种拓扑结构、通信机制与失败模式拆解

2周前 (09-30)25
多智能体协作怎么编排?几种拓扑结构、通信机制与失败模式拆解
一个团队把办公流程改造成多智能体系统:检索文档的负责查资料,写作的负责出初稿,审核的负责挑错,三个智能体各管一段。上线之后问题来了——审核智能体每次都提意见,写作智能体每次都改,改完审核又有新意见,两…

微调大模型为什么只改一小部分参数就够?LoRA低秩分解原理拆解

2周前 (09-30)22
微调大模型为什么只改一小部分参数就够?LoRA低秩分解原理拆解
想在开源模型上做微调,拦在前面的门槛往往不是数据,而是显存。一个70亿参数的模型,全量微调要吃掉多少显存?先按混合精度训练的标准开销算一遍。权重用fp16存储,70亿乘2字节约14GB;反向传播产生的…

大模型是怎么调用外部函数的?Function Calling 完整链路拆解

2周前 (09-30)21
大模型是怎么调用外部函数的?Function Calling 完整链路拆解
问模型今天杭州的天气,它回一句"我无法获取实时信息"。再问它1234乘5678等于多少,它可能给你一个看着挺像、但算错了的数。这两件事指向同一个原因:模型只会生成文字,它接触不到外…

AI生成的视频为什么会一帧一跳?时序一致性问题的成因和工程解法

2周前 (09-30)24
AI生成的视频为什么会一帧一跳?时序一致性问题的成因和工程解法
很多人对AI视频有个共同的观感:单独抽一帧出来看,画面精致得像摄影作品;可一旦连着播放,人物边缘会轻微抖动,背景纹理像水波一样泛,脸部光影忽明忽暗。业内把这个现象叫"闪烁"(fli…

视频扩散模型为什么离不开3D VAE?潜空间压缩和DiT骨干的架构拆解

2周前 (09-30)23
视频扩散模型为什么离不开3D VAE?潜空间压缩和DiT骨干的架构拆解
先抛一个数量级上的问题。如果直接在像素空间对视频做扩散,一段512×512分辨率、16帧的片段,按16×16的图像patch切分,序列长度是(512/16)×(512/16)×16=16384个tok…

机器说话怎么越来越像真人了?聊聊语音合成从拼接走向端到端的技术迭代

2周前 (09-30)26
机器说话怎么越来越像真人了?聊聊语音合成从拼接走向端到端的技术迭代
有声书平台这两年有个挺明显的变化。早些年那些AI朗读的音频,一听就能听出来——语调平、断句怪,念到一半气息都不换。现在再点开某些平台的新书,同样是一段几百字的内容,停顿、重音、语气起伏都有了,不特意去…