8月9日 國仟生態(tài)圈

2024年第四場(chǎng)專(zhuān)題培訓活動(dòng)順利舉辦

此次活動(dòng)專(zhuān)題是

“AI大模型安全”

主辦單位：國仟醫療科技（蘇州）有限公司

國仟創(chuàng )業(yè)投資管理（蘇州）有限公司

本期特邀演講嘉賓：清華大學(xué)邱寒博士、董胤蓬博士

活動(dòng)背景

近兩年來(lái)，隨著(zhù)ChatGPT、Sora等人工智能模型的出現，社會(huì )各界對AI的關(guān)注度日趨高漲。無(wú)論是科研產(chǎn)業(yè)界，還是投融資界，都對人工智能在未來(lái)人類(lèi)社會(huì )的應用充滿(mǎn)期待。其中醫療大健康領(lǐng)域的AI模型，有助于更快更準地解決臨床剛需，因此備受關(guān)注。然而由于醫療領(lǐng)域自身的特殊性，AI模型安全至關(guān)重要，也直接影響AI模型在醫療健康領(lǐng)域的落地。

活動(dòng)回顧

針對模型安全在醫療健康領(lǐng)域人工智能產(chǎn)品中的重要意義，本次國仟生態(tài)圈主題培訓活動(dòng)邀請到清華大學(xué)網(wǎng)絡(luò )研究院邱寒副教授和計算機科學(xué)與技術(shù)系董胤蓬博士，圍繞“AI大模型安全”主題進(jìn)行分享。

邱教授演講的主題是“大語(yǔ)言模型內容安全研究”，通過(guò)實(shí)際的GPT模型案例深入淺出的介紹了大語(yǔ)言模型的發(fā)展歷史和基本原理、大模型對于有害內容的輸出管控、大模型幻覺(jué)對垂直領(lǐng)域應用的影響。在演講中，邱教授通過(guò)分析GPT訓練過(guò)程，解釋了大模型的局限性、偏見(jiàn)、不安全內容輸出的原因，認為數據驅動(dòng)的本質(zhì)會(huì )直接影響大模型的安全性。同時(shí)邱教授認為大語(yǔ)言模型的自回歸推理模式和模型幻覺(jué)有關(guān)，不同模型的幻覺(jué)或者人為干擾下的響應會(huì )有不同表現。減少生成式人工智能的幻覺(jué)，提高模型準確性，是大模型在垂直領(lǐng)域廣泛使用的主要挑戰，仍有較長(cháng)的路要走。

董博士分享的主題是“面向擴散概率模型的安全可信研究”，董博士依靠扎實(shí)的理論功底，重點(diǎn)介紹了圖片生成領(lǐng)域的擴散模型基本概念和分類(lèi)、擴散模型的魯棒性與安全性的判斷、模型生成圖片的安全性處理，和擴散模型對提高圖片生成與識別魯棒性的應用。董博士在演講中結合自己的科研經(jīng)歷，分析了多種擴散模型的實(shí)際應用案例和數學(xué)方法，加深聽(tīng)眾對生成式人工智能安全風(fēng)險的理解。

分享過(guò)程中兩位專(zhuān)家和聽(tīng)眾針對不同的大語(yǔ)言模型方法、物理概念與大模型的融合、醫療數據對大模型幻覺(jué)的影響、大模型未來(lái)趨勢、如何在模型訓練中設置提示詞等問(wèn)題展開(kāi)了熱烈討論。

當前人工智能沖擊著(zhù)傳統產(chǎn)業(yè)界，新的范式對于產(chǎn)品定位、產(chǎn)品內容、產(chǎn)品研發(fā)都有巨大影響。大模型的應用是醫療企業(yè)面臨的新機遇與新挑戰。期待本次交流碰撞出的火花能夠給各位企業(yè)家朋友帶來(lái)思考，助力公司在人工智能時(shí)代創(chuàng )新發(fā)展！

關(guān)于國仟

國仟醫療科技（蘇州）有限公司由張旭博士等七名在生物醫學(xué)和醫療器械領(lǐng)域成功創(chuàng )新創(chuàng )業(yè)的國家重大人才工程專(zhuān)家聯(lián)合其他領(lǐng)域股東共同投資設立。

國仟醫療致力于醫療器械創(chuàng )新科技產(chǎn)業(yè)投資、創(chuàng )業(yè)孵化及精準賦能。全資控股的國仟創(chuàng )業(yè)投資管理(蘇州)有限公司，是一家專(zhuān)注醫療器械早期股權投資的風(fēng)險投資機構。本著(zhù)“成就他人夢(mèng)想”的經(jīng)營(yíng)理念，國仟創(chuàng )投通過(guò)所管理的股權投資基金來(lái)進(jìn)行產(chǎn)業(yè)投資和聚集，國仟醫療通過(guò)孵化和賦能打造產(chǎn)業(yè)生態(tài)，兩大業(yè)務(wù)平臺高度協(xié)同，在蘇州高新區打造一個(gè)高端醫療器械產(chǎn)業(yè)聚集群和生態(tài)圈。