笔趣阁

最新地址:www.22biqu.com
笔趣阁 > 科研系学霸 > 第137章 V0.2

第137章 V0.2

第137章 v0.2

展示完v0.1的性能之后,v0.2才是真正的重磅炸弹。

“虽然vo.1的性能在各位看来已经很强了,但是我的目標始终都是超越cuda,所以在0.2版本中,我们对aetos的运行逻辑进行了优化,並且增加了一些重写过后的算子,相信我,这是一项真正能被称之为里程碑式的突破。“

周昀微微一笑,敲了一下键盘,一副柱状图被投影到白板上。

“aetosv0.2vs.v0.1&原生软体栈性能对比”

在图表的数据上有几个非常夸张的数字,几位老总第一眼看上去就是不相信。

在华为升腾910b上,针对一个超大规模transformer模型进行训练,v0.2版本的耗时仅为v0.1版本的58%,更是將升腾原生cann软体栈的性能提升了40%!

这都得益於v0.2对升腾晶片內部计算单元和內存带宽的极致利用,甚至自动发掘並优化了连华为自家工程师都尚未完全摸透的某种计算流水线特性,相较於相同模型在a100上的性能,提升了25%!

而在海光的一款gpgpu上,进行高解析度图像生成推理,vo.2的吞吐量达到了vo.1的3.2倍,能效比提升150%,也比在a100上的性能要好,还有寒武纪的,也差不多,反正提升都非常之大,而且比a100上运行的性能要好。

“这———这怎么可能?”在座的要说除了周昀之外谁对技术最为熟悉,那应该就是寒武纪的张博士。

所以他的反应也是最大的,在图片放出来的时候,他直接就站了起来,凑近屏幕,几乎要贴上去了。

“这种程度的优化,除非你们拿到了我们最底层的晶片设计文档!否则怎么可能比我们自己更了解如何发挥芯的极限?”

另外两位虽然不在科研一线了,但是对於数据中体现出来的技术,还是能看的出来的:“这也太夸张了,如果不是亲眼所见,我很难想像这是真实存在的。”

周昀看著大家的反应,就知道自己的目的已经达到了,隨后简单解释了一下v0.2能有如此大提升的原因。

“首先,我们並没有拿到在座任何一家公司的机密文件,能取得这样性能的原因和v0.2的核心有关,毫不夸张的说,这绝对是一项黑科技,我称之为硬体本能感知』的技术,简称hia。”

他切换幻灯片,展示了一个技术框架图。

“hia技术在v0.1的时候我们其实就已经做了一些尝试了,只是当时还不够成熟,只能做一些粗略的硬体特性探测,我们通过分析代码在目標硬体上的初步运行表现,来反推一些宏观的硬体参数,比如缓存大小、內存带宽的理论峰值等,然后进行一些相对基础的优化,这能带来不错的兼容性和基础性能,但远未触及硬体潜力的天花板。”

“而vo.2的hia技术,实现了质的飞跃,通过在程序运行的初始阶段,注入一系列精心设计的、极其微小的“探针』计算任务,这些探针』任务,其本身计算量可以忽略不计,但它们的设计目的,是精准地触发硬体內部各种可能存在的瓶颈或特性点,比如不同层级缓存之间的延迟差异、特定计算单元在不同数据模式下的吞吐量变化,、

內存控制器的並发处理极限、甚至是晶片內部微码调度器的行为偏好。“

他看向张博士,“张博士问,我们是否拿到了底层设计文档,答案是没有,也完全不需要。

因为hia技术通过分析这些探针』任务在纳秒级內的执行反馈一例如执行周期数、缓存命中率、电源状態波动等海量实时数据能够反向构建出一个高精度的硬体本能模型”,这个模型是完全基於晶片在实际运行中的表现,它可能无法告诉你某个计算单元的具体电晶体数量,但它能极其准確地告诉你,在当前的温度、电压和工作负载下,这个单元如何才能达到最高的计算效率。

这也是为什么v0.2不仅能极大超越v0.1,更能超越晶片设计者自家提供的原生软体栈。

因为我们是在与硬体进行“实时对话』,对其定製化的执行方案,甚至能超越cuda的性能,也是同样如此。“

“啪、啪、啪—”华为的徐总第一个鼓起掌来,“了不起!简直就是黑科技!周博土,我收回之前所有的质疑,仅凭这项hia技术,aetos就拥有了挑战任何现有软体栈的底气!”

“没错,如果是这样的话,確实有挑战cuda的底气,也难怪可以超越我们自己的优化方式。“

周昀点点头:“不知道这样的情况下,之前我提出的aetos开源生態联盟还有没有的谈?”

有了这样的技术,主动权就已经完全掌握在周昀手里了,他们也都不是目光短浅的人,知道hia这样的技术代表了什么。

这相当於把未来放到他们眼前,如果这还抓不住机会,那他们就真的不配坐到现在的位置上。

“有得谈!当然有得谈!”徐总笑道,“不仅有的谈,而且要好好谈谈,我们华为第个表態,全持成“aetos开源態联盟』!”

“曙光也完全赞同!”

“海光也是!”

“寒武纪也是!”

看到在场的几位巨头都同意了,他就知道这场谈判也差不多了,至於接下来的细节,一时半会儿不可能能谈的完:“感谢各位的信任和支持,既然方向已定,那我们接下来就需要敲定联盟的基本框架和原则,我提议设立“联盟理事会』作为最高决策机构,创始成员,即在座的各位,自动拥有理事会席位,確保联盟能够高效、公平地运转,真正形成合力,接下来几天就麻烦各位在杭城多留几天了。“

“没问题。”

隨后几人又大致探討了一下联盟组建的大致框架,比如合作方式,资金投入比例等,但在大方向上,所有人都展现出了极大的合作诚意。

毕竞周昀握的aetosvo.2和hia技术,以及挑战cuda的目標,已经將大家的利益牢牢绑定在一起。

『记住本站最新地址 www.22biqu.com』
相邻小说: 推演,道成元始 清冷直男,被疯批皇帝强制爱了 天幕宝可梦:曝光小智弒神救世! 穿越菩提老祖,西游第一劫难 我有了透视眼之后,运气好到爆 开局青云宗主,召唤大帝境老祖 赶你去封地,你竟带着北凉王造反 我堂堂魔修,让我加综漫聊天群? 海贼:从奴役和之国开始! 修炼消耗血条?可我无限回血啊!