講座報(bào)告主題：人工智能大模型推理系統(tǒng)的研究與實(shí)踐
專(zhuān)家姓名：鄭緯民
日期：2025-08-10 時(shí)間：14:00
地點(diǎn)：計(jì)算機(jī)學(xué)院221會(huì)議室
主辦單位：計(jì)算機(jī)科學(xué)與通信工程學(xué)院
主講簡(jiǎn)介：鄭緯民，清華大學(xué)計(jì)算機(jī)系教授，中國(guó)工程院院士。獲北京市優(yōu)秀教師獎(jiǎng)和北京市教學(xué)名師稱(chēng)號(hào)，享受?chē)?guó)務(wù)院政府特殊津貼，中國(guó)計(jì)算機(jī)學(xué)會(huì)第十屆理事長(zhǎng)。在存儲(chǔ)系統(tǒng)擴(kuò)展性、可靠性和集約性等科學(xué)問(wèn)題和工程技術(shù)方面，取得了國(guó)內(nèi)外同行認(rèn)可的創(chuàng)新性成果；研制的網(wǎng)絡(luò)存儲(chǔ)系統(tǒng)、容災(zāi)系統(tǒng)和自維護(hù)存儲(chǔ)系統(tǒng)在多個(gè)重大工程中發(fā)揮了重要作用。在國(guó)產(chǎn)神威太湖之光上研制的極大規(guī)模天氣預(yù)報(bào)應(yīng)用獲得ACM Gordon Bell 獎(jiǎng)。獲國(guó)家科技進(jìn)步一等獎(jiǎng)1項(xiàng)、二等獎(jiǎng)2項(xiàng)、國(guó)家技術(shù)發(fā)明二等獎(jiǎng)1項(xiàng)，何梁何利科技進(jìn)步獎(jiǎng)。獲首屆中國(guó)存儲(chǔ)終身成就獎(jiǎng)。研究專(zhuān)長(zhǎng)：長(zhǎng)期從事網(wǎng)絡(luò)存儲(chǔ)系統(tǒng)科學(xué)研究、工程建設(shè)和人才培養(yǎng)。
主講內(nèi)容簡(jiǎn)介：本報(bào)告首先介紹人工智能大模型生命周期的五個(gè)環(huán)節(jié)：數(shù)據(jù)獲取，數(shù)據(jù)預(yù)處理，模型訓(xùn)練，模型微調(diào)和模型推理，然后詳細(xì)介紹本團(tuán)隊(duì)研發(fā)的用于模型推理的Mooncake和KTransformers系統(tǒng)，看如何解決大模型推理服務(wù)在系統(tǒng)層面的挑戰(zhàn)，如何標(biāo)準(zhǔn)化問(wèn)題，助力AI系統(tǒng)高效運(yùn)行。
歡迎師生參加！
