12月19日，由開(kāi)放原子開(kāi)源基金會(huì)主辦，太初元碁Tecorigin共建的第二屆開(kāi)放原子大賽 “Tecorigin算子開(kāi)發(fā)任務(wù)挑戰(zhàn)賽”和 “Teco-RAG大模型開(kāi)發(fā)任務(wù)挑戰(zhàn)賽” 在武漢舉行決賽路演。24支決賽隊(duì)伍現(xiàn)場(chǎng)角逐出各項(xiàng)大獎(jiǎng)，本次Tecorigin挑戰(zhàn)賽圓滿落幕。
第二屆開(kāi)放原子大賽是由開(kāi)放原子開(kāi)源基金會(huì)主辦的一場(chǎng)高規(guī)格高站位的開(kāi)源領(lǐng)域?qū)I(yè)賽事，太初元碁作為共建方，設(shè)立“Tecorigin算子開(kāi)發(fā)任務(wù)挑戰(zhàn)賽”和 “Teco-RAG大模型開(kāi)發(fā)任務(wù)挑戰(zhàn)賽” 兩個(gè)賽項(xiàng)，總獎(jiǎng)金60萬(wàn)元，旨在鼓勵(lì)參賽者基于完全自主可控的國(guó)產(chǎn)AI加速卡及軟件棧，開(kāi)發(fā)創(chuàng)新算子和大模型問(wèn)答系統(tǒng)。兩個(gè)賽項(xiàng)共吸引來(lái)自全國(guó)各地高校及企業(yè)的207支隊(duì)伍報(bào)名參賽，經(jīng)過(guò)三個(gè)月的激烈角逐，最終評(píng)選出24支隊(duì)伍，受邀參加決賽路演。
本次路演非常榮幸邀請(qǐng)到了開(kāi)放原子開(kāi)源基金會(huì)TOC主席譚中意先生、國(guó)家超級(jí)計(jì)算無(wú)錫中心副主任劉釗先生擔(dān)任嘉賓評(píng)委，同時(shí)還有高性能計(jì)算、編譯器、大模型領(lǐng)域的多位專家，為賽事提供了權(quán)威指導(dǎo)與專業(yè)支持。“Tecorigin算子開(kāi)發(fā)任務(wù)挑戰(zhàn)賽”最終排名第一的是來(lái)自阿里巴巴的“大錘”隊(duì)。該團(tuán)隊(duì)通過(guò)減少輸出緩沖區(qū)、數(shù)據(jù)重排SIMD、分塊計(jì)算、減少輸入內(nèi)存等步驟，將tecoalConvolutionForward算子的性能提升3.5倍。“Teco-RAG大模型開(kāi)發(fā)任務(wù)挑戰(zhàn)賽” 最終排名第一的是來(lái)自上海的“moyuheng”隊(duì)。該團(tuán)隊(duì)重點(diǎn)優(yōu)化了Teco-RAG的索引鏈部分：通過(guò)單雙欄PDF分類解析、PPT坐標(biāo)脫敏、知識(shí)路徑分類優(yōu)化讀取過(guò)程；通過(guò)分隔常見(jiàn)中文標(biāo)題、字符優(yōu)化分段過(guò)程；通過(guò)對(duì)將文件標(biāo)題和知識(shí)路徑作為上下文、合并小chunk內(nèi)容優(yōu)化向量化過(guò)程。最終將Teco-RAG知識(shí)問(wèn)答系統(tǒng)的準(zhǔn)確率提升15%。路演結(jié)束后，選手們紛紛發(fā)表了自己的參賽感受。在這個(gè)大模型時(shí)代，國(guó)產(chǎn)AI加速卡是非常重要的基礎(chǔ)設(shè)施。通過(guò)參加本次賽事，感受到國(guó)產(chǎn)AI加速卡及其軟件越來(lái)越易用，太初的SDAA C是一門(mén)簡(jiǎn)潔易懂的編程語(yǔ)言，希望可以在AI科研和產(chǎn)業(yè)中都能夠?qū)崿F(xiàn)國(guó)產(chǎn)替代。“發(fā)A會(huì)”團(tuán)隊(duì)：
SDAA C用戶界面和文檔支持都非常友好，即便是第一次使用也能快速上手，減少了我們?cè)诠ぞ邔W(xué)習(xí)上的時(shí)間投入，總體來(lái)說(shuō)感覺(jué)非常好。太初的硬件和軟件相關(guān)工具都挺好用的，賽事提供的文檔中提供了典型的一些算子優(yōu)化思路和方法，便于在比賽之中使用SDAA C編程語(yǔ)言實(shí)現(xiàn)算子高性能優(yōu)化。“VegetableBird”團(tuán)隊(duì)：
我之前有過(guò)CUDA開(kāi)發(fā)的經(jīng)歷，SDAA C和CUDA類似，從CUDA遷移過(guò)來(lái)門(mén)檻很低，甚至感覺(jué)對(duì)初學(xué)者更友好。本次賽事提供的服務(wù)器性能非常好，環(huán)境無(wú)需額外配置，baseline和測(cè)試用例也非常清晰。數(shù)據(jù)決定了機(jī)器學(xué)習(xí)的上限，而算法只是逼近這個(gè)上限。Teco-RAG部署簡(jiǎn)單，技術(shù)棧也很先進(jìn)，架構(gòu)上將三個(gè)Chain很好地解耦并提供FastAPI，定制開(kāi)發(fā)非常方便，可玩性非常強(qiáng)。在國(guó)產(chǎn)化勢(shì)在必行的今天，非常看好Teco-RAG在行業(yè)實(shí)際生產(chǎn)場(chǎng)景中落地。非常有幸借助本次賽事，體驗(yàn)國(guó)產(chǎn)算力的魅力。我們借助太初的算力平臺(tái)，驗(yàn)證了其在AI領(lǐng)域的卓越適配能力，構(gòu)建了一套完整、高效的RAG優(yōu)化范式。通過(guò)參加本次Tecorigin挑戰(zhàn)賽，選手們不僅見(jiàn)證了國(guó)產(chǎn)AI加速卡及軟件棧的飛速進(jìn)步，更深刻感受到了創(chuàng)新與實(shí)踐相結(jié)合所帶來(lái)的無(wú)限可能。
結(jié)語(yǔ)
展望未來(lái)，我們堅(jiān)信國(guó)產(chǎn)AI加速卡及其軟件棧將在更多領(lǐng)域得到廣泛應(yīng)用，并為推動(dòng)AI科研與產(chǎn)業(yè)的繁榮發(fā)展貢獻(xiàn)重要力量。同時(shí)，我們也期待更多優(yōu)秀開(kāi)發(fā)者能夠加入到這一領(lǐng)域中來(lái)，共同探索、共同創(chuàng)新，為國(guó)產(chǎn)AI技術(shù)的崛起貢獻(xiàn)自己的智慧與力量。
