一种分布式AI服务引擎系统

    公开(公告)号:CN115834669B

    公开(公告)日:2023-05-09

    申请号:CN202310108302.X

    申请日:2023-02-14

    Abstract: 本发明提出了一种分布式AI服务引擎系统,包括原子服务层、引擎中控层和应用层,其中,原子服务层包括负载均衡器和多个AI服务实例,用于实现AI模型的推理能力;引擎中控层包括一个Leader节点和与Leader节点对应的多个Worker节点,用于创建表达式服务、调用表达式服务和更新缓存;其中Leader节点与Worker节点的内部包括功能决策模块、缓存模块、归并优化器、状态控制器、逻辑运算器、排序模块、存储服务模块、溢写模块;应用层,用于调用中控层提供的表达式构建和服务调用的功能。通过本发明提出的分布式AI服务引擎系统,有效的提高了服务开发效率、服务响应速度和减少了系统资源的浪费。

    一种分布式AI服务引擎系统

    公开(公告)号:CN115834669A

    公开(公告)日:2023-03-21

    申请号:CN202310108302.X

    申请日:2023-02-14

    Abstract: 本发明提出了一种分布式AI服务引擎系统,包括原子服务层、引擎中控层和应用层,其中,原子服务层包括负载均衡器和多个AI服务实例,用于实现AI模型的推理能力;引擎中控层包括一个Leader节点和与Leader节点对应的多个Worker节点,用于创建表达式服务、调用表达式服务和更新缓存;其中Leader节点与Worker节点的内部包括功能决策模块、缓存模块、归并优化器、状态控制器、逻辑运算器、排序模块、存储服务模块、溢写模块;应用层,用于调用中控层提供的表达式构建和服务调用的功能。通过本发明提出的分布式AI服务引擎系统,有效的提高了服务开发效率、服务响应速度和减少了系统资源的浪费。

    一种利用云原生资源的数据湖构建方法

    公开(公告)号:CN115809149B

    公开(公告)日:2023-04-28

    申请号:CN202310083078.3

    申请日:2023-02-08

    Abstract: 本发明提出一种利用云原生资源的数据湖构建方法,包括,构建数据源及数据源表、数据湖数据目录;配置入湖任务,根据数据源表以及数据湖数据目录生成入湖任务参数,将入湖任务以及入湖任务参数提交至服务应用中心;通过服务应用中心将所述入湖任务以及入湖任务参数转发至任务调度中心入湖队列,在计算资源状态处于空闲时,将入湖任务以及入湖任务参数转发至资源调度中心;通过资源调度中心解析入湖任务参数,获取数据源及数据源表,对数据源及数据源表做映射获取数据源元数据信息和中间表元数据信息,生成抽象语法树,并基于抽象语法树生成任务计划,根据任务计划调度计算资源在对应数据湖数据目录执行数据写入任务,完成数据湖的构建。

    一种利用云原生资源的数据湖构建方法

    公开(公告)号:CN115809149A

    公开(公告)日:2023-03-17

    申请号:CN202310083078.3

    申请日:2023-02-08

    Abstract: 本发明提出一种利用云原生资源的数据湖构建方法,包括,构建数据源及数据源表、数据湖数据目录;配置入湖任务,根据数据源表以及数据湖数据目录生成入湖任务参数,将入湖任务以及入湖任务参数提交至服务应用中心;通过服务应用中心将所述入湖任务以及入湖任务参数转发至任务调度中心入湖队列,在计算资源状态处于空闲时,将入湖任务以及入湖任务参数转发至资源调度中心;通过资源调度中心解析入湖任务参数,获取数据源及数据源表,对数据源及数据源表做映射获取数据源元数据信息和中间表元数据信息,生成抽象语法树,并基于抽象语法树生成任务计划,根据任务计划调度计算资源在对应数据湖数据目录执行数据写入任务,完成数据湖的构建。

    基于多轮对话改进的智能客服辅助系统和方法

    公开(公告)号:CN112766990B

    公开(公告)日:2023-07-28

    申请号:CN202110138011.6

    申请日:2021-02-01

    Abstract: 本申请提出一种基于多轮对话改进的智能客服辅助系统和方法,系统包括:包括:意图识别器接收终端发送的文本识别意图后将意图与文本发送给对话管理器;在意图为单轮意图时对话管理器获取意图对应的答案发送给坐席审判模块,在意图为多轮意图时将意图对应的控制器类型发送给过程控制器,将文本发送给实体提取器,在意图为填槽意图时将文本发送给实体提取器;提取文本中的实体发送给过程控制器根据控制器类型创建目标过程控制器和实体进行填槽,在槽值填充完毕根据槽值执行相关动作,将执行结果发送给坐席审判模块;槽值未填充完毕将词槽的澄清语句发送给坐席审判模块根据模型返回的响应判断是否发送给终端。由此,大大提高了人工客服的效率。

    基于多轮对话改进的智能客服辅助系统系统和方法

    公开(公告)号:CN112766990A

    公开(公告)日:2021-05-07

    申请号:CN202110138011.6

    申请日:2021-02-01

    Abstract: 本申请提出一种基于多轮对话改进的智能客服辅助系统和方法,系统包括:包括:意图识别器接收终端发送的文本识别意图后将意图与文本发送给对话管理器;在意图为单轮意图时对话管理器获取意图对应的答案发送给坐席审判模块,在意图为多轮意图时将意图对应的控制器类型发送给过程控制器,将文本发送给实体提取器,在意图为填槽意图时将文本发送给实体提取器;提取文本中的实体发送给过程控制器根据控制器类型创建目标过程控制器和实体进行填槽,在槽值填充完毕根据槽值执行相关动作,将执行结果发送给坐席审判模块;槽值未填充完毕将词槽的澄清语句发送给坐席审判模块根据模型返回的响应判断是否发送给终端。由此,大大提高了人工客服的效率。

Patent Agency Ranking