麻省理工科技评论
25-10-12 18:42 微博认证:《麻省理工科技评论》杂志官方微博

【科学家研发大模型新框架,实现1.27倍加速,助力解决RISC-V软件生态瓶颈】

#算子# (Kernel),作为连接硬件与软件的核心软件层,是软件生态中的重要一环。算子优化是旨在根据硬件架构和#芯片设计# ,优化特定程式代码,以尽可能挖掘硬件潜力,提高程序运行速度的工作。

当前算子优化主要依靠专家通过试错法进行手动优化,这一过程不仅耗时,而且需要跨硬件、软件和指令集架构(ISA,Instruction Set Architecture)的多学科专业专家合作开发,人力和时间成本都十分高昂。对于新兴的 ISA 架构而言,其配套算子库的性能优化缺口已成为阻碍广泛部署的主要瓶颈。

随着大模型的发展,自动化算子优化领域出现了新范式。#大模型# 驱动的方法利用其生成能力,通过最少的人工指导生成或迭代改进算子实现,已经涌现出了一批科研成果。尤其在 CUDA 算子优化领域,这一范式已展现出显著潜力——完备的技术文档和成熟的代码库使得现成的大模型能够在部分算子问题上取得超越人类专家的效果。

然而,在 RISC-V 等新兴架构或指令集上,参考材料的稀缺,限制了这种新兴范式的有效性。

戳链接查看详情:http://t.cn/AXzN27gP