題目：可解釋大模型安全與評(píng)測(cè)平臺(tái)

　　報(bào)告人：紀(jì)守領(lǐng)

　　時(shí)間：2025年03月18日(周二)，09：00-9：50

　　會(huì)議地點(diǎn)：31-904

　　報(bào)告摘要：

　　近年來(lái)，以大模型為代表的人工智能技術(shù)迅猛發(fā)展，相關(guān)應(yīng)用不斷深化。在大模型蓬勃發(fā)展的同時(shí)，其安全、隱私、倫理等挑戰(zhàn)也越來(lái)越引起人們的重視。保障大模型系統(tǒng)的安全隱私，發(fā)展可信賴、負(fù)責(zé)任的人工智能技術(shù)，成為其應(yīng)用深化與產(chǎn)業(yè)發(fā)展的基礎(chǔ)前提與必需保障。本報(bào)告將圍繞大模型系統(tǒng)安全，探討可解釋的大模型安全增強(qiáng)技術(shù)，并展示研制的大模型安全評(píng)測(cè)平臺(tái)。

　　報(bào)告人簡(jiǎn)介：

　　紀(jì)守領(lǐng)，浙江大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院求是特聘教授/長(zhǎng)聘教授、博士生導(dǎo)師，可信人工智能研究中心主任，獲佐治亞理工學(xué)院電子與計(jì)算機(jī)工程博士學(xué)位、佐治亞州立大學(xué)計(jì)算機(jī)科學(xué)博士學(xué)位，入選教育部長(zhǎng)江學(xué)者、高層次科技創(chuàng)新人才等。主要研究方向?yàn)槿斯ぶ悄馨踩?、?shù)據(jù)驅(qū)動(dòng)安全、軟件與系統(tǒng)安全，主持國(guó)家重點(diǎn)研發(fā)計(jì)劃項(xiàng)目、國(guó)家自然科學(xué)基金重點(diǎn)和面上項(xiàng)目等多項(xiàng)，發(fā)表CCF A類論文100余篇，研制的多個(gè)系統(tǒng)在大型平臺(tái)上獲得部署應(yīng)用。獲ACM CCS 2021最佳論文獎(jiǎng)等10項(xiàng)最佳論文獎(jiǎng)、全球黑客大會(huì)Pwnie Awards最具創(chuàng)新研究獎(jiǎng)提名等。