近日,临商银行上线企业级AI大模型服务平台“临小智”,为办公和业务场景智能化提供了技术支撑。
据了解,“临小智”依托本地化部署的DeepSeek R1 70B蒸馏模型构建,具有知识库管理、智能体编排、RAG应用等核心技术能力。
在知识库方面,“临小智”相当于企业的“大脑”。支持上传PDF、Word、Excel、图片等10余种文件格式,可快速构建个人、团队及公共知识库。具体来看,系统首先通过PaddleOCR对文档进行解析,然后利用BGE模型实现高精度向量化检索,最后结合ElasticSearch与Milvus向量数据库,确保制度查询、文档参考等场景下的响应速度和准确性。
在RAG方面,“临小智”的回答做到了“有据可依”。其RAG系统包含13个模块,采用分布式模块化部署,便于优化升级和问题定位。借助“向量编码+语义重排序”技术(BGE Reranker模型),从知识库中挑选出最相关的片段,输入大模型后生成可靠回答。在解析合同、财报等复杂文档时,可结合上下文不断完善答案,比如自动提取关键条款并对比历史版本的不同之处。
值得一提的是,“临小智”的技术架构与以往相比有所创新,具体体现为四大数据库协同运作。其采用MySQL、Redis、Milvus、Elasticsearch四种数据库协同工作的创新架构,大幅提升了数据协同效率。其中,Redis处理高频精确查询,Milvus负责向量检索,Elasticsearch实现混合检索,MySQL保障事务一致性,这四种数据库共同构成了完整的数据处理闭环。
目前,“临小智”已在临商银行多个办公及业务场景中完成初步应用落地,覆盖全行制度助手、文档解析助手、代码生成助手、智能工作流中心、AI写作助手五大场景。
具体而言,一是全行制度助手,通过自然语言交互实现秒级政策检索,并索引到查询的具体文章和章节出处;二是文档解析助手,基于深度学习的内容理解引擎,采用多模态识别技术,自动提取关键字段、生成内容摘要;三是代码生成助手,提供智能化的开发支持;四是智能工作流中心,提供可视化的工作流编排工具,支持跨系统业务流程的智能化改造;五是AI写作助手,基于知识库和素材库,按照不同文案类型、语言风格和模板生成文章,进行AI续写、优化和校对、翻译等功能。
此前,临商银行也曾在AI大模型领域进行招标采购工作。
4月15日,临商银行发布AI大模型配套服务器采购项目竞争性磋商公告。公告显示,采购涵盖配套AI服务器等货物的供货、安装及后续服务的全部内容,供应商须对采购清单中的所有货物整体响应,不得对货物分解后进行响应,预算金额为50万元。4月27日,该项目由北京先进数通信息技术股份有限公司中标,中标价格为39.88万元。
值得一提的是,“临小智”也是由北京先进数通信息技术股份公司提供专业技术支持。
责任编辑:陈爱
免责声明:
中国电子银行网发布的专栏、投稿以及征文相关文章,其文字、图片、视频均来源于作者投稿或转载自相关作品方;如涉及未经许可使用作品的问题,请您优先联系我们(联系邮箱:cebnet@cfca.com.cn,电话:400-880-9888),我们会第一时间核实,谢谢配合。