金融界2025年5月1日消息，國(guó)家知識(shí)產(chǎn)權(quán)局信息顯示，上海友道智途科技有限公司申請(qǐng)一項(xiàng)名為“一種基于transformer模型的GPU推理性能優(yōu)化方法、系統(tǒng)、設(shè)備及存儲(chǔ)介質(zhì)”的專利，公開(kāi)號(hào)CN119886347A，申請(qǐng)日期為2024年12月。

專利摘要顯示，本發(fā)明公開(kāi)一種基于transformer模型的GPU推理性能優(yōu)化方法、系統(tǒng)、設(shè)備及存儲(chǔ)介質(zhì)，該性能優(yōu)化方法為通用的transformer模型推理性能調(diào)優(yōu)策略，適用于多種應(yīng)用場(chǎng)景和模型類型，通過(guò)自定義算子替換和融合，實(shí)現(xiàn)對(duì)Attention算子、LayerNorm算子、GBR算子、GB算子等的優(yōu)化，顯著減少計(jì)算量或內(nèi)存的使用，提升模型性能，具體的優(yōu)化步驟包括迭代搜索、模式匹配、算子替換和融合，提升深度學(xué)習(xí)模型的訓(xùn)練速度和推理速度，且降低資源消耗和成本。

天眼查資料顯示，上海友道智途科技有限公司，成立于2021年，位于上海市，是一家以從事軟件和信息技術(shù)服務(wù)業(yè)為主的企業(yè)。企業(yè)注冊(cè)資本113333.3333萬(wàn)人民幣。通過(guò)天眼查大數(shù)據(jù)分析，上海友道智途科技有限公司共對(duì)外投資了2家企業(yè)，參與招投標(biāo)項(xiàng)目13次，財(cái)產(chǎn)線索方面有商標(biāo)信息20條，專利信息229條，此外企業(yè)還擁有行政許可44個(gè)。

本文源自金融界