公开(公告)号：CN118605850B

公开(公告)日：2024-11-12

申请号：CN202411075543.X

申请日：2024-08-07

Applicant: 之江实验室

Inventor： 薛镭 ,  朱建 ,  黄崇栋 ,  胡星竹 ,  王凤娟 ,  苏志毅 ,  薛辉 ,  潘爱民

IPC: G06F8/30 ,  G06F8/41 ,  G06F16/2455

Abstract: 本发明公开一种面向Triton编译器流水线的优化系统及优化方法，系统包括方言管理器、转换过程管理器、自定义优化过程构造器、优化过程管理器、流水线构造器、优化过程测试器和性能评估器。本发明通过自定义优化过程构造器为用户提供的用于编写转换过程涉及的方言的操作组合的性能优化策略的接口和模板，使得用户能够有针对性地设计优化策略，提升代码运算性能；优化过程管理器允许针对不同GPU架构添加特定的优化pass过程，使得优化系统具有更好的GPU适应性；优化过程测试器确保优化过程的正确执行，性能评估器提供量化评估，使得优化效果可验证。本发明的优化系统能够对方言、转换过程、优化过程进行精细控制，提供了优化系统的管理灵活性和可扩展性。

公开(公告)号：CN118605850A

公开(公告)日：2024-09-06

申请号：CN202411075543.X

申请日：2024-08-07

Applicant: 之江实验室

Inventor： 薛镭 ,  朱建 ,  黄崇栋 ,  胡星竹 ,  王凤娟 ,  苏志毅 ,  薛辉 ,  潘爱民

IPC: G06F8/30 ,  G06F8/41 ,  G06F16/2455

Abstract: 本发明公开一种面向Triton编译器流水线的优化系统及优化方法，系统包括方言管理器、转换过程管理器、自定义优化过程构造器、优化过程管理器、流水线构造器、优化过程测试器和性能评估器。本发明通过自定义优化过程构造器为用户提供的用于编写转换过程涉及的方言的操作组合的性能优化策略的接口和模板，使得用户能够有针对性地设计优化策略，提升代码运算性能；优化过程管理器允许针对不同GPU架构添加特定的优化pass过程，使得优化系统具有更好的GPU适应性；优化过程测试器确保优化过程的正确执行，性能评估器提供量化评估，使得优化效果可验证。本发明的优化系统能够对方言、转换过程、优化过程进行精细控制，提供了优化系统的管理灵活性和可扩展性。