视频:AI 与 RAG
介绍 RAG 的原理、企业内部 RAG 失败的原因,以及在 Kanata 中构建 RAG 的方法。
Roles
AI 与 RAG 的关系
生成式 AI 依靠截至训练时的一般知识作答,并不了解贵公司的内部规定或上周会议的决定事项。RAG(检索增强生成)是 AI 在回答前先检索公司内部资料,并以检索结果作为回答依据的机制。下面整理了 AI 与 RAG 各自的作用,以及 Kanata 中的处理方式。
| 要素 | 作用 | 在 Kanata 中 |
|---|---|---|
| AI 模型(生成式 AI) | 理解问题,组织回答和文章 | 可从 GPT、Claude、Gemini 中选择 |
| RAG(检索增强生成) | 检索公司内部资料,并将结果作为依据提供给 AI | 在权限范围内参考 Library 中积累的内部知识 |
| 公司内部知识 | 作为回答和工作依据的信息 | Library 中积累的会议纪要、培训资料、内部规定和文档 |
仅用生成式 AI 与结合 RAG 的区别
| 项目 | 仅用生成式 AI | 结合 RAG |
|---|---|---|
| 回答依据 | 截至训练时的一般知识 | 公司内部资料与一般知识 |
| 最新内部信息 | 无法反映 | 更新资料即可反映,无需重新训练模型 |
| 显示出处 | 困难 | 可显示所参考的资料名称 |
| 重新训练模型 | — | 不需要 |
Why it fails
企业内部 RAG 失败的三个原因
资料分散,旧版本混杂其中
AI 可能依据过时的信息作答。
查看权限设计不当
用户无权查看的资料内容可能出现在回答中。
缺乏改进机制
回答质量得不到提升,大家逐渐不再使用。
Kanata 通过 Library 的版本与出处管理、按项目和文件夹划分的权限,以及将会议纪要和 AI 生成的资料积累到 Library 的机制来解决这些问题。
How it works
Kanata 中 RAG 的构建方式
公司内部知识会成为自动与 AI 协作的数据库。
会议纪要、培训资料等工作中产生的内部知识积累在 Library 中,您可以为每个 AI 智能体设置参考文件夹和 AI 模型。查看回答和执行的结果,并更新或补充资料。

01
数据收集与整理
Collect & Organize
AI 录音的会议纪要、在线学习的教材以及 AppStudio 应用中的数据,会在日常业务中保存到 Library。内部规定和流程作为文档创建,并按文件夹管理查看权限和版本。

02
连接应用与 AI
Connect Apps & AI
为每个 AI 智能体设置参考文件夹后,这些文件夹中的内容就会成为依据候选。AI 智能体会参考用户查看权限范围内的资料进行回答,并根据自主程度在审核计划后,操作执行权限所允许的应用和 Studio 功能。

03
改进数据
Improve
用常见的内部问题核对回答和出处,更新过时的资料并补充缺失的资料。AI 智能体生成的会议纪要和资料也会积累到 Library。
使用的结果成为下一次回答的依据
How to build
在 Kanata 中的构建方法
使用 AI 智能体创建基于内部知识回答的助手的步骤。无需数据库设计或编程,通过界面设置即可完成。
- 登记资料
在 Library 中创建文档,登记资料。会议记录从 AI 录音登记,培训内容从在线学习登记。 - 整理并设置权限
按文件夹整理资料,并设置可查看的人员。内部规定可以作为由封面、分类和页面组成的文档进行版本管理。 - 创建 AI 智能体
创建 AI 智能体,设置名称、图标,以及描述其角色和回答方式的自定义指令。 - 设置参考范围与执行权限
设置参考文件夹、执行权限(仅调查、可创建文档、可操作应用)、自主程度和所用模型。 - 核对并改进回答
在聊天中提出常见的内部问题,核对回答。更新过时的资料,并持续将会议纪要和 AI 生成的资料积累到 Library。
Reference scope
参考范围的设置
按 AI 智能体设置 AI 可以作为回答依据的内容。
| 设置 | 作用 | 设置位置 |
|---|---|---|
| 参考文件夹 | AI 智能体作为依据参考的文件夹。文件夹中的所有内容都是候选,无需逐个选择文件 | AI 智能体设置 |
| 查看权限 | 仅将对话中的用户有权查看的资料作为依据 | 文件夹权限 |
| 网络搜索 | 读取外部网页。可按智能体选择是否使用 | AI 智能体的执行权限 |
| 自定义指令 | 指定对资料中没有的问题如何应对,以及不应回答的内容(禁止话题)(最多 8,000 字) | AI 智能体设置 |
Settings
AI 智能体设置
为每个 AI 智能体在自定义指令中描述其角色和回答方式,并设置参考文件夹和执行权限。可以按部门创建"行政咨询窗口""销售支持"等智能体,并在项目内共享。
| 设置 | 可设置的内容 |
|---|---|
| 名称与图标 | 智能体的名称和图标(图案与背景色的组合) |
| 自定义指令 | 用一段文字描述其角色、回答方式和应遵守的规则(最多 8,000 字)。例如:"作为内部培训的向导进行回答""务必显示作为依据的资料""不回答有关人事评价的问题" |
| 参考文件夹 | 作为依据参考的文件夹。仅使用发起请求的用户可查看的内容 |
| 执行权限 | 仅调查、可创建文档、可操作应用,或按工具进行详细设置 |
| 自主程度 | 仅提出建议、审核计划后执行、自动执行(仅项目管理员可选择自动执行) |
| 模型 | 聊天中的默认模型和可用模型 |
常用的指令可以作为提示词登记到 Library,并在项目内共享。
Data
可导入的数据
| 类型 | 示例 | 登记到 Library 的方式 |
|---|---|---|
| 文档 | 内部规定、手册、FAQ | 作为文档创建 |
| 会议 | Zoom、Google Meet 和 Microsoft Teams 的录音、会议纪要 | 由 AI 录音生成 |
| 培训 | 培训视频与教材 | 在在线学习中创建 |
| 应用数据 | 日报、商机管理等记录 | 在用 AppStudio 构建的应用中录入 |
文件类型和大小上限因功能而异(例如在线学习的视频最大 2 GB)。
Tips
提高 RAG 精度的运营要点
Security
安全与权限
- 我们不会将您输入的数据用于训练 AI 模型。
- 可查看的资料和 AI 参考的范围按项目、应用和文件夹进行区分。
- AI 智能体仅将对话中的用户有权查看的资料作为依据。
- ENTERPRISE 方案支持导入时的安全评估。
Use cases
RAG 的应用场景
人事与行政咨询
依据就业规则和内部规定进行一线答复,没有依据的问题由工作人员处理。
IT 流程指引
依据各系统的操作手册,引导用户完成设置和申请流程。
销售提案准备
根据过去的提案书和商谈纪要,整理提案的框架和需要确认的要点。
客户支持
依据 FAQ 和产品资料起草回复,由工作人员确认后发送。
FAQ
常见问题
Q生成式 AI 与 RAG 有什么区别?
生成式 AI(大语言模型)是理解问题并组织回答和文章的 AI。RAG 是 AI 在回答前检索公司内部资料,并以检索结果为依据的机制。在 Kanata 中,RAG 在权限范围内检索 Library 中积累的内部知识,由您从 GPT、Claude、Gemini 中选择的 AI 模型据此作答。
QRAG 与微调有什么区别?
微调是对 AI 模型本身进行追加训练。RAG 不改动模型,而是在回答时检索公司内部资料并将其作为依据。由于无需重新训练模型即可在回答中反映资料的更新,并且能以资料名称显示出处,RAG 非常适合利用公司内部知识。Kanata 基于 RAG 方式利用内部知识。
Q可以使用现有的会议纪要和资料吗?
可以。现有资料可以作为文档创建并登记到 Library。用 AI 录音生成的会议纪要可直接作为 AI 智能体的依据。
Q能否按部门区分智能体参考的资料?
按项目和文件夹设置权限,并为每个 AI 智能体设置参考文件夹。例如,人事智能体只参考人事规定,销售智能体只参考提案书和会议纪要。
Q可以使用哪些 AI 模型?
可以从 OpenAI 的 GPT、Anthropic 的 Claude、Google 的 Gemini 中选择。即使是同一个智能体,也可以在 DM 输入框中,在该智能体允许的模型范围内按问题切换模型。
Q登记机密资料安全吗?
Kanata 不会将您输入的数据用于训练 AI 模型。资料的查看权限和 AI 的参考范围通过文件夹权限和智能体设置进行区分。详情请参阅安全。
最后更新: