7月23日,據(jù)中國信息通信研究院消息,為加速大模型軟硬件協(xié)同生態(tài)構(gòu)建,推動不同尺寸、類型模型與芯片軟件棧、Triton等第三方中間件以及開發(fā)框架等多路線兼容適配,中國信通院與人工智能關(guān)鍵技術(shù)和應(yīng)用評測工業(yè)和信息化部重點實驗室依托AISHPerf基準(zhǔn)體系,聯(lián)合業(yè)界伙伴共同開展面向大模型的算子級適配生態(tài)構(gòu)建工作。第一批大模型算子級適配測試主要圍繞大語言模型算子的豐富度、功能、性能開展,現(xiàn)已正式啟動報名。后續(xù)將迭代更新算子列表,分類分批持續(xù)開展。中國信通院在工作推進(jìn)過程中,將組織系列研討及工作會,首期閉門工作會已于2024年7月17日召開。會上,硬件芯片與Triton開源算子適配測試工作啟動。









