Reality Check
RAG导入的常见误解
把内部资料放进ChatGPT就会马上变聪明
向通用型SaaS上传机密数据的瞬间,信息就会被发送到外部服务器。存在违反NDA和条款变更的风险,无法深入到真正想活用的业务中。
只要引入AI,检索的麻烦就会消失
不设计机制只导入工具,回答依据模糊的话现场不会信任。只有在设计成可引用本公司图纸・规程作为依据之后,才能用于实务。
RAG只是特殊大企业的专利
近年来,借助构建模板与云的组合,中坚・中小企业也能以现实的成本导入。也有活用补贴的余地。
Readiness
如果是这种情况,就是咨询的时机
越是处理机密信息的业务,AI活用在工具选型之前,构成设计就越重要。
对将机密数据和图纸交给外部服务有抵触
可采用将数据留在内部的同时活用AI的配置。我们会根据安全要求进行设计。
资深人员的知识集中在特定的人身上
我们将图纸意图、应对诀窍、客户特性等隐性知识,转化为可检索的形式。目标是建立连新员工也能参考的公司内部AI词典。
不知道资料在哪里,光是查找就消耗时间
我们将规格书・规程・会议纪要等分散的信息整合为一套知识库,可附带依据地即时调取。
试过ChatGPT等 ,但因机密信息之壁未能达到正式活用
“虽然方便但信息管控会崩溃”这一两难,可以通过结构来化解。
Approach
我们所重视的
RAG导入中最重要的是:先构建不让信息外泄的结构,以及确保现场能信任回答的精度——这两点。缺少任何一点,都会变成不被使用的系统。
我们采取先在小范围内确认安全性和回答精度、再反映现场意见逐步扩大的方法。这与本公司的DX推进支援是共通的思路。
设计的前提
不让安全成为事后补丁
既然处理机密数据,安全就是设计的前提。我们从初期阶段就内置必要的构成——通过KMS加密、通过WAF进行通信控制、一定时间后的自动数据删除等。
小步验证
从特定部门・特定业务开始,确认产生效果后再扩大范围。
可视化依据
不仅是回答,还能确认参考的资料和依据的状态,打造便于现场判断的机制。
TAS GenAI Core
我们的技术基盘
本服务的核心,采用本公司开发的AI平台 TAS GenAI Core。
以日本数字厅公开的OSS“源内”为基础,在质量已获保证的RAG平台上进行最小限度的改动,使其稳定运行的设计。在洽谈阶段,可在不使用真实API和客户数据的销售演示环境中,体验基于源内的RAG体验与TAS独有的安全机制。
附依据的回答
搭载参照贵公司独有数据、边出示出处边回答的RAG Pipeline。因回答的依据可确认,可塑造成便于现场使用的形态。
回答质量的自动评估
搭载自动评估回答质量、未达标时重新生成的ReflectionLoop。以抑制所谓的幻觉为目标。
闭域・加密・自动删除
组合WAF、CMEK、S3、DynamoDB、TTL,从初期阶段内置通信控制、加密、审计追踪、自动删除。
导入的云可从AWS・Azure・GCP中根据贵公司的要求选择。即便需要长时间的处理,通过将受理和处理分离的异步架构,也能稳定运行而不发生超时。
※ TAS GenAI Core由源内来源的代码(MIT许可证)和本公司独有代码(专有)构成。
Process
导入流程
我们在每个阶段交付明确的成果物,让“发生了什么变化”始终可见。
Phase 1
现状把握与安全要求的确认
梳理让AI参考哪些业务・哪些数据。数据的机密性、NDA及公司内部规程的制约一定在此阶段确认。
Phase 2
环境构建
干净地构建贵公司专用的私有云区域。使用的云根据要求选型,若活用补贴则配合此阶段推进申请。
Phase 3
知识学 习(RAG构建)
将规格书・图纸・合同等纳入,达到可附带依据地回答的状态。用真实数据确认精度后再进入正式运用。
Phase 4
落地与全公司展开
以产生效果的部门为起点,逐步扩大到销售・开发・总务等其他部门。以不会让人迷失操作的界面和步骤书,目标是达到人人日常都能使用的状态。
Cost Support
关于补贴的活用
安全RAG的构建费用和咨询费用,有可能是数字化・AI导入补贴等的对象。根据制度不同,有可能覆盖构建费用的大部分。
在安全RAG构建支援之外,补贴活用的对象可能性以及申请准备所需的信息梳理也可与我们商谈。但补贴需审核,不保证获批。且原则上为后付,需垫付导入费用。
关于补贴申请支援
目前,补贴申请支援的相关业务者注册与支援体制正在准备中。关于制度确认、对象可能性的梳理、申请前的准备工作,我们持续接受咨询。正式的申请代办・获批后的手续将在体制整备完成后依次处理。
常见问题
Q. 本公司的这些数据,能让RAG学习吗?
A. 根据数据的形式・机密区分,适不适合会有所不同。在初次访谈中我们会听取对象数据,并告知可否学习及预期精度。
Q. 信息真的不会外泄吗?
A. 我们采用在贵公司专用的云闭域环境中完成处理的配置。内置加密・通信控制・自动删除,原则上设计成结构性地不产生通向外部的路径。具体要求我们会个别确认。
Q. 我们没有IT负责人,没问题吗?
A. 没问题。从构建・运用・落地都由本公司陪伴。操作界面会设计得简单,并整备步骤书。
Q. 可以先试一部分业务吗?
A. 可以。我们推荐从特定部门・特定业务小步开始、确认效果后再扩大的推进方式。
首先,从免费的事前访谈开始
这些数据能否用于RAG、是否是补贴对象。我们会配合贵公司的状况,个别提出试算与构成。初次访谈约30分钟,可在线进行。