一种分布式自主均衡人工智能任务调度方法及系统_CN109814997A

3
CN 109814997 A
说பைடு நூலகம்明 书
1/5 页
一种分布式自主均衡人工智能任务调度方法及系统
技术领域 [0001] 本发明涉及人工智能算法技术领域，特别涉及一种分布式自主均衡人工智能任务 调度方法及系统。
背景技术 [0002] 现有机器学习平台，同一时刻只支持对于某个特定的场景进行处理。在对于需要 同时支持多种类型识别任务，以及在一个流程中需要进行多种算法组合处理的情况并没有 很完善的解决方案。尤其是对于每一个单独的显卡，缺乏成熟的机制支持多模型切换；在分 布式的环境下，也没有合理的充分利用集群GPU资源的灵活调度方案。
发明内容 [0003] 本发明的目的旨在至少解决所述技术缺陷之一。 [0004] 为此，本发明的目的在于提出一种分布式自主均衡人工智能任务调度方法及系 统。 [0005] 为了实现上述目的，本发明的实施例提供一种分布式自主均衡人工智能任务调度 方法，包括如下步骤： [0006] (1)任务发布阶段 [0007] 步骤S1：任务发布服务器接收任务并识别所述任务携带的描述信息，根据描述信 息对所述任务配置任务属性 ，其中 ，所述任务属性记录符合该任务工作场景的算法执行流 程； [0008] 步骤S2，所述任务发布服务器根据所述任务属性，将任务放置在不同队列中，并更 新公共缓存中的排队信息； [0009] (2)任务处理阶段 [0010] 步骤S3，任务处理服务器从公共缓存中获取需要拉取的任务的排队信息，然后根 据预设的优先级策略计算不同任务优先权值； [0011] 步骤S4，所述任务处理服务器根据任务优先权值从队列中依次拉取任务； [0012] 步骤S5，所述任务处理服务器对拉到的任务的任务属性进行读取，以获取该任务 算法执行流程，处理该任务，并返回处理结果。 [0013] 进一步，在所述步骤S5中，所述任务处理服务器根据所述任务属性中配置好的执 行代码，执行符合该场景需要的过程，完成任务。 [0014] 进一步，当队列中的任务数量超过预设值时，任务堆积信息会保存在公共缓存中， 所述任务发布服务器和任务处理服务器通过所述公共缓存共享任务堆积信息，调整执行任 务的策略。 [0015] 进一步，所述任务发布服务器每次接收到新的任务后，将队列排队信息更新到所 述公共缓存。 [0016] 进一步，在所述步骤S3中 ，所述优先级策略根据以下条件制定：任务的数据处理
(74)专利代理机构 北京中企鸿阳知识产权代理 事务所(普通合伙) 11487
代理人 李斌
(51)Int .Cl . G06F 9/48(2006 .01) G06F 9/50(2006 .01) G06F 9/54(2006 .01)
(10)申请公布号 CN 109814997 A (43)申请公布日 2019.05.28
( 19 )中华人民 共和国国家知识产权局
( 12 )发明专利申请
(21)申请号 201910049967 .1
(22)申请日 2019 .01 .18
(71)申请人 创新奇智（广州）科技有限公司 地址 510670 广东省广州市高新技术产业 开发区科学城科珠路232号1栋101房
(72)发明人 张发恩 闫威
( 54 )发明 名称 一种分布式自主均衡人工智能任务调度方
法及系统 ( 57 )摘要
本发明提出了一种分布式自主均衡人工智 能任务调度方法及系统 ，包括 ：任务发布服务器 接收任务并识别所述任务携带的描述信息，根据 描述信息对所述任务配置任务属性 ；任务发布服 务器将任务放置在不同队 列中 ；任务处理服务器 从公共缓存中获取需要拉取的任务的排队信息， 然后根据预设的优先级策略计算不同任务优先 权值 ；根据任务优先权值从队 列中依次拉取任 务 ；对拉到的 任务的 任务 属性进行读取 ，以 获取 该任务算法执行流程 ，处理该任务 ，并返回处理 结 果 。本 发 明 支 持 多 种 类 型的 人 工 智能 识 别 任 务 ，以 充分应对不同 业务场景需 要 ，计算不同 任 务优先权值 ，选择任务进行处理 ，从而达到在分 布式环境下均衡合理使用系统资源的目的。
2
CN 109814997 A
权 利 要 求 书
2/2 页
9 .如权利要求6所述的分布式自主均衡人工智能任务调度系统，其特征在于，所述任务 发布服务器还用于在每次接收到新的任务后，将队列排队信息更新到所述公共缓存平台。
10 .如权利要求6所述的分布式自主均衡人工智能任务调度系统，其特征在于，所述优 先级策略根据以下条件制定：任务的数据处理量、任务所服务客户的VIP等级。
权利要求书2页 说明书5页 附图4页
CN 109814997 A
CN 109814997 A
权 利 要 求 书
1/2 页
1 .一种分布式自主均衡人工智能任务调度方法，其特征在于，包括如下步骤： (1)任务发布阶段 步骤S1 ：任务发布服务器接收 任务并识别所述任务携带的 描述信息 ，根据描述信息对 所述任务配置任务属性，其中，所述任务属性记录符合该任务工作场景的算法执行流程； 步骤S2 ，所述任务发布服务器根据所述任务属性 ，将任务放置在不同队 列中 ，并更新公 共缓存中的排队信息； (2)任务处理阶段 步骤S3 ，任务处理服务器从公共缓存中获取需 要拉取的 任务的 排队 信息 ，然后根据预 设的优先级策略计算不同任务优先权值； 步骤S4，所述任务处理服务器根据任务优先权值从队列中依次拉取任务； 步骤S5 ，所述任务处理服务器对拉到的 任务的 任务 属性进行读取 ，以 获取该任务算法 执行流程，处理该任务，并返回处理结果。 2 .如权利要求1所述的分布式自主均衡人工智能任务调度方法，其特征在于，在所述步 骤S5中 ，所述任务处理服务器根据所述任务属性中配置好的执行代码 ，执行符合该场景需 要的过程，完成任务。 3 .如权利要求1所述的分布式自主均衡人工智能任务调度方法，其特征在于，当队列中 的 任务数量超过预设值时 ，任务堆积信息会保存在公共缓存中 ，所述任务发布服务器和任 务处理服务器通过所述公共缓存共享任务堆积信息，调整执行任务的策略。 4 .如权利要求1所述的分布式自主均衡人工智能任务调度方法，其特征在于，所述任务 发布服务器每次接收到新的任务后，将队列排队信息更新到所述公共缓存。 5 .如权利要求1所述的分布式自主均衡人工智能任务调度方法，其特征在于，在所述步 骤S3中 ，所述优先级策略根据以 下条件制定 ：任务的数据处理量、任务所服务客 户的 VIP等 级。 6 .一种分布式自主均衡人工智能任务调度系统，其特征在于，包括：任务发布服务器、 任务处理服务器和公共缓存平台，其中， 所述任务发布服务器接收任务并识别所述任务携带的描述信息，根据描述信息对所述 任务配置任务属性 ，其中 ，所述任务属性记录符合该任务工作场景的算法执行流程 ；然后根 据所述任务属性，将任务放置在不同队列中，并更新公共缓存平台中的排队信息； 所述公共缓存平台用于存储任务的排队信息； 所述任务处理服务器用于从公共缓存平台中获取需要拉取的任务的排队信息，然后根 据预设的 优先级策略 计算不同 任务优先权值 ，根据任务优先权值从队 列中 依次拉取任务 ， 对拉到的任务的任务属性进行读取，以获取该任务算法执行流程，处理该任务，并返回处理 结果。 7 .如权利要求6所述的分布式自主均衡人工智能任务调度系统，其特征在于，所述任务 处理服务器还 用于根据所述任务 属性中配置好的 执行代码 ，执行符合该场景需要的 过程 ， 完成任务。 8 .如权利要求6所述的分布式自主均衡人工智能任务调度系统，其特征在于，当队列中 的 任务数量超过预设值时 ，任务堆积信息会保存在公共缓存中 ，所述任务发布服务器和任 务处理服务器通过所述公共缓存共享任务堆积信息，调整执行任务的策略。