J市JJ银行合规大模型银行一体化应用平台实战“术”分享

J市JJ银行合规大模型银行一体化应用平台实战“术”分享

上回讨论到了Python代码迁移，必须先把调用SO库重新编译，可以借助port advisoring来搜索SO库，然后重新编译。众所周知，代码运行都需要一个框架。

框架在编译后才能重新使用，当时项目有一个适配测试环节，从一个环境迁移到鲲鹏平台，都是第一次吃螃蟹。螃蟹怎么吃？银行给出了一个测试环境，让每个应用在迁移前都要确保适配成功。

当时环境配置比较简单，一个节点+1P算力+5T的对象存储。在这个节点上进行代码适配。我们当时需要测试的小模型有5个：OCR图片识别、实物分割、沙箱测试、法规自动匹配、报告自动生成。

这五个模型都跟银行合规业务有关联，比如第一个模型通过上传的票据扫描件识别出文字，在银行存在大量表单需要自动识别；第二个通过在一张图片里分离出需要认识的章，第三个是安全方面，合同等很多文本不需要上传到外网，需要有安全沙箱保护；第四个是法规条文识别之后，自动判断哪些是适合JJ银行内部使用；第五个是合规报告文本自动生成并发送给行内系统，下发到对应部门。

这五个模型在节点测试的表现不一，OCR秒级出结果，实物分割分钟级出结果，沙箱测试和其他二者都顺利测试通过。

其实在这之前，实物分割模型测试是出了点故事的。实物分割之前采用的两个技术，首先实物轮廓识别出来，其次要把同类标识出来。标注实物是一个经验活，这对于项目组来说，是有些难度了。最后，这个专家资源通过JJ银行内部获取到了，才得以把同类标注的难题解决了。