AI & RAG

AI 与 RAG

在 AI 组织回答之前,RAG 先从公司内部知识中提供依据。

RAG(检索增强生成)是 AI 在回答前先检索公司内部资料,并以检索结果作为回答依据的机制。在 Kanata 中,会议纪要、培训资料等工作中产生的内部知识保存在 Library 中,并通过文件夹和查看权限进行管理。AI 智能体以 Library 中的资料为依据进行回答和执行工作。

视频:AI 与 RAG

介绍 RAG 的原理、企业内部 RAG 失败的原因,以及在 Kanata 中构建 RAG 的方法。

视频中出现的公司和人物均为虚构。

Roles

AI 与 RAG 的关系

生成式 AI 依靠截至训练时的一般知识作答,并不了解贵公司的内部规定或上周会议的决定事项。RAG(检索增强生成)是 AI 在回答前先检索公司内部资料,并以检索结果作为回答依据的机制。下面整理了 AI 与 RAG 各自的作用,以及 Kanata 中的处理方式。

要素作用在 Kanata 中
AI 模型(生成式 AI)理解问题,组织回答和文章可从 GPT、Claude、Gemini 中选择
RAG(检索增强生成)检索公司内部资料,并将结果作为依据提供给 AI在权限范围内参考 Library 中积累的内部知识
公司内部知识作为回答和工作依据的信息Library 中积累的会议纪要、培训资料、内部规定和文档

仅用生成式 AI 与结合 RAG 的区别

项目仅用生成式 AI结合 RAG
回答依据截至训练时的一般知识公司内部资料与一般知识
最新内部信息无法反映更新资料即可反映,无需重新训练模型
显示出处困难可显示所参考的资料名称
重新训练模型—不需要

Why it fails

企业内部 RAG 失败的三个原因

资料分散,旧版本混杂其中

AI 可能依据过时的信息作答。

查看权限设计不当

用户无权查看的资料内容可能出现在回答中。

缺乏改进机制

回答质量得不到提升,大家逐渐不再使用。

Kanata 通过 Library 的版本与出处管理、按项目和文件夹划分的权限,以及将会议纪要和 AI 生成的资料积累到 Library 的机制来解决这些问题。

How it works

Kanata 中 RAG 的构建方式

公司内部知识会成为自动与 AI 协作的数据库。

会议纪要、培训资料等工作中产生的内部知识积累在 Library 中,您可以为每个 AI 智能体设置参考文件夹和 AI 模型。查看回答和执行的结果,并更新或补充资料。

01

数据收集与整理

Collect & Organize

AI 录音的会议纪要、在线学习的教材以及 AppStudio 应用中的数据,会在日常业务中保存到 Library。内部规定和流程作为文档创建,并按文件夹管理查看权限和版本。

会议录音与会议纪要培训视频与教材文档与 PDF文件夹查看权限与版本

02

连接应用与 AI

Connect Apps & AI

为每个 AI 智能体设置参考文件夹后,这些文件夹中的内容就会成为依据候选。AI 智能体会参考用户查看权限范围内的资料进行回答,并根据自主程度在审核计划后,操作执行权限所允许的应用和 Studio 功能。

AI 参考的文件夹操作应用与 Studio可选择 GPT、Claude、Gemini依据限于查看权限范围内

03

改进数据

Improve

用常见的内部问题核对回答和出处,更新过时的资料并补充缺失的资料。AI 智能体生成的会议纪要和资料也会积累到 Library。

核对回答与出处更新过时资料,补充缺失资料积累会议纪要与 AI 生成的资料

使用的结果成为下一次回答的依据

How to build

在 Kanata 中的构建方法

使用 AI 智能体创建基于内部知识回答的助手的步骤。无需数据库设计或编程,通过界面设置即可完成。

  1. 登记资料
    在 Library 中创建文档,登记资料。会议记录从 AI 录音登记,培训内容从在线学习登记。
  2. 整理并设置权限
    按文件夹整理资料,并设置可查看的人员。内部规定可以作为由封面、分类和页面组成的文档进行版本管理。
  3. 创建 AI 智能体
    创建 AI 智能体,设置名称、图标,以及描述其角色和回答方式的自定义指令。
  4. 设置参考范围与执行权限
    设置参考文件夹、执行权限(仅调查、可创建文档、可操作应用)、自主程度和所用模型。
  5. 核对并改进回答
    在聊天中提出常见的内部问题,核对回答。更新过时的资料,并持续将会议纪要和 AI 生成的资料积累到 Library。

Reference scope

参考范围的设置

按 AI 智能体设置 AI 可以作为回答依据的内容。

设置作用设置位置
参考文件夹AI 智能体作为依据参考的文件夹。文件夹中的所有内容都是候选,无需逐个选择文件AI 智能体设置
查看权限仅将对话中的用户有权查看的资料作为依据文件夹权限
网络搜索读取外部网页。可按智能体选择是否使用AI 智能体的执行权限
自定义指令指定对资料中没有的问题如何应对,以及不应回答的内容(禁止话题)(最多 8,000 字)AI 智能体设置

Settings

AI 智能体设置

为每个 AI 智能体在自定义指令中描述其角色和回答方式,并设置参考文件夹和执行权限。可以按部门创建"行政咨询窗口""销售支持"等智能体,并在项目内共享。

设置可设置的内容
名称与图标智能体的名称和图标(图案与背景色的组合)
自定义指令用一段文字描述其角色、回答方式和应遵守的规则(最多 8,000 字)。例如:"作为内部培训的向导进行回答""务必显示作为依据的资料""不回答有关人事评价的问题"
参考文件夹作为依据参考的文件夹。仅使用发起请求的用户可查看的内容
执行权限仅调查、可创建文档、可操作应用,或按工具进行详细设置
自主程度仅提出建议、审核计划后执行、自动执行(仅项目管理员可选择自动执行)
模型聊天中的默认模型和可用模型

常用的指令可以作为提示词登记到 Library,并在项目内共享。

Data

可导入的数据

类型示例登记到 Library 的方式
文档内部规定、手册、FAQ作为文档创建
会议Zoom、Google Meet 和 Microsoft Teams 的录音、会议纪要由 AI 录音生成
培训培训视频与教材在在线学习中创建
应用数据日报、商机管理等记录在用 AppStudio 构建的应用中录入

文件类型和大小上限因功能而异(例如在线学习的视频最大 2 GB)。

Tips

提高 RAG 精度的运营要点

  1. 一份资料一个主题
    将长篇资料按章节拆分,AI 更容易找到所需部分。
  2. 清理旧版本
    用文档版本管理内部规定,明确哪个是最新版本。
  3. 缩小每个智能体的参考文件夹
    包含的无关资料越多,回答越容易出现偏差。
  4. 在自定义指令中指定回答方式
    为每个智能体设置对资料中没有的问题如何应对以及回答的格式。
  5. 用常见问题进行测试
    用实际的咨询核对回答和出处,并补充缺失的资料。
  6. 按业务选择模型
    日常问答使用轻量模型,重要分析使用高性能模型。选择时可以查看积分消耗倍率。

Security

安全与权限

Use cases

RAG 的应用场景

人事与行政咨询

依据就业规则和内部规定进行一线答复,没有依据的问题由工作人员处理。

IT 流程指引

依据各系统的操作手册,引导用户完成设置和申请流程。

销售提案准备

根据过去的提案书和商谈纪要,整理提案的框架和需要确认的要点。

客户支持

依据 FAQ 和产品资料起草回复,由工作人员确认后发送。

FAQ

常见问题

Q生成式 AI 与 RAG 有什么区别?

生成式 AI(大语言模型)是理解问题并组织回答和文章的 AI。RAG 是 AI 在回答前检索公司内部资料,并以检索结果为依据的机制。在 Kanata 中,RAG 在权限范围内检索 Library 中积累的内部知识,由您从 GPT、Claude、Gemini 中选择的 AI 模型据此作答。

QRAG 与微调有什么区别?

微调是对 AI 模型本身进行追加训练。RAG 不改动模型,而是在回答时检索公司内部资料并将其作为依据。由于无需重新训练模型即可在回答中反映资料的更新,并且能以资料名称显示出处,RAG 非常适合利用公司内部知识。Kanata 基于 RAG 方式利用内部知识。

Q可以使用现有的会议纪要和资料吗?

可以。现有资料可以作为文档创建并登记到 Library。用 AI 录音生成的会议纪要可直接作为 AI 智能体的依据。

Q能否按部门区分智能体参考的资料?

按项目和文件夹设置权限,并为每个 AI 智能体设置参考文件夹。例如,人事智能体只参考人事规定,销售智能体只参考提案书和会议纪要。

Q可以使用哪些 AI 模型?

可以从 OpenAI 的 GPT、Anthropic 的 Claude、Google 的 Gemini 中选择。即使是同一个智能体,也可以在 DM 输入框中,在该智能体允许的模型范围内按问题切换模型。

Q登记机密资料安全吗?

Kanata 不会将您输入的数据用于训练 AI 模型。资料的查看权限和 AI 的参考范围通过文件夹权限和智能体设置进行区分。详情请参阅安全。

最后更新: