講座報(bào)告主題：基于大語(yǔ)言模型的可靠對(duì)話(huà)智能體
專(zhuān)家姓名：俞凱
日期：2025-10-18 時(shí)間：14:00
地點(diǎn)：江蘇鎮(zhèn)江明都大飯店商務(wù)樓二樓華怡廳
主辦單位：計(jì)算機(jī)科學(xué)與通信工程學(xué)院
主講簡(jiǎn)介：俞凱，上海交通大學(xué)計(jì)算機(jī)學(xué)院特聘教授，機(jī)器智能研究所所長(zhǎng)，思必馳公司聯(lián)合創(chuàng)始人及首席科學(xué)家，語(yǔ)言計(jì)算國(guó)家新一代人工智能開(kāi)放創(chuàng)新平臺(tái)負(fù)責(zé)人。長(zhǎng)期智能語(yǔ)音及語(yǔ)言處理的研究和產(chǎn)業(yè)化工作，曾任 IEEE Speech and Language Processing Technical Committee 委員，IEEE Transactions on Audio Speech and Language Processing 副主編，Interspeech、ICMI、SigDial等國(guó)際會(huì)議的程序委員會(huì)主席，全國(guó)人機(jī)語(yǔ)音通訊會(huì)議大會(huì)主席，以及ACL、EMNLP等國(guó)際會(huì)議的研究領(lǐng)域主席等?，F(xiàn)任中國(guó)計(jì)算機(jī)學(xué)會(huì)語(yǔ)音對(duì)話(huà)及聽(tīng)覺(jué)專(zhuān)委會(huì)主任，中國(guó)人工智能產(chǎn)業(yè)聯(lián)盟（AIIA）學(xué)術(shù)及知識(shí)產(chǎn)權(quán)組組長(zhǎng)。研究專(zhuān)長(zhǎng)：智能語(yǔ)音及語(yǔ)言處理。
主講內(nèi)容簡(jiǎn)介：大語(yǔ)言模型智能體因其通用理解及生成能力而受到廣泛關(guān)注，被認(rèn)為將能夠?qū)崿F(xiàn)通用的任務(wù)執(zhí)行智能。然而由于語(yǔ)言模型的概率性生成本質(zhì)，語(yǔ)言模型智能體會(huì)出現(xiàn)各種不符合預(yù)期的行為，導(dǎo)致執(zhí)行的不確定性，在真實(shí)場(chǎng)景下執(zhí)行性能和效率極低。經(jīng)典的解決思路是將此類(lèi)現(xiàn)象歸因?yàn)椤盎糜X(jué)”，通過(guò)算法提升大模型的輸出準(zhǔn)確性，期望減少錯(cuò)誤幻覺(jué)，降低輸出不確定性，進(jìn)而提升智能體執(zhí)行能力。本報(bào)告則從認(rèn)知型對(duì)話(huà)交互的角度，提出不同的理論框架。認(rèn)為“不確定性無(wú)法根除”應(yīng)是提升任務(wù)型智能體可靠性的基本前提，可靠性的消除不僅取決于期望行為準(zhǔn)確度的提升，還取決于交互行為對(duì)不確定性的處理能力。本報(bào)告重新定義了任務(wù)型智能體的執(zhí)行可靠性概念，討論大模型對(duì)自身不確定性的建模，并討論提升任務(wù)型智能體執(zhí)行可靠性的方法。同時(shí)，在復(fù)雜工具調(diào)用的框架下，討論工具幻覺(jué)及復(fù)雜調(diào)用可靠性提升的方法。
歡迎師生參加！
