9月7日，2024 Inclusion·外灘大會正式閉幕。事實上，這一天下午，距離大會閉幕幾個小時前，仍有觀眾在排隊入場。官方數(shù)據(jù)顯示，本屆大會共吸引了5.2萬人現(xiàn)場參會，無論是參會規(guī)模還是國際嘉賓的數(shù)量，均創(chuàng)下了歷史新高。除了年輕人，記者注意到，觀眾隊伍中還有不少老人、小孩。

　　本屆外灘大會以“科技·創(chuàng)造可持續(xù)未來”為主題，包括36場開放見解論壇、10多場創(chuàng)新者舞臺、2場AI創(chuàng)新賽事、1場10000平方米的展覽以及1場綠色生活節(jié)和1場科技人才招聘會。據(jù)統(tǒng)計，三天時間內(nèi)，有30余項AI新成果在本屆外灘大會發(fā)布，包括螞蟻AI生活管家“支小寶”、AI金融管家“螞小財”，AI健康管家等。

　　10000平方米的展覽場地匯集了眾多企業(yè)參展，記者觀察到，相比往年，準備各類裝備體驗、互動的廠商越來越多了，許多展臺前，觀眾為參與體驗排起長隊。重視人文性，成為本屆外灘大會的一大特點。除了開幕式上24歲的獨臂男孩周鍵借智能仿生手演奏鋼琴的動人瞬間，在外灘大會的展區(qū)，借助設備觀眾可以體驗將腦電波以花朵的形式可視化，讓瞬間的情緒形成紀念。還有可實現(xiàn)“擁抱傳遞”的設備，穿戴上內(nèi)嵌人造肌肉纖維的特制背心，當另一個人擁抱裝有壓力傳感器的模型時，體驗者便能感受到模擬其聲控、觸覺反饋和溫度調(diào)節(jié)等多種感官元素的“遠程擁抱”。

　　在這一年的外灘大會上，如何讓“技術向善”的討論和研發(fā)更加被業(yè)界重視。

　　AI醫(yī)療受關注

　　為期三天的展覽中，AI醫(yī)療的相關產(chǎn)品、企業(yè)展臺總有著最多的人流量，“爸媽記憶力下降了怎么辦？”“AI如何輔助癌癥篩查？”這些問題讓不少觀眾不自覺就邁入了相關展區(qū)，不斷有老人加入腦健康檢測，有年輕人加入腦電波的“畫圖”。

　　“和去年相比，今年外灘大會AI人工智能的份額感覺更高了，而且不是像之前傻乎乎的那種，今年的很多應用是真的有用的，明顯能感覺到算法提升了很多，比如說面部識別功能或者語音交互功能，都感覺上升了一個檔次，效果變好了，所以大家體驗的熱情也高。”一位參會的展商對記者表示。

　　來不及喝口水，達摩院AI醫(yī)療展臺的工作人員就迎來了下一位咨詢的觀眾，今年的外灘大會上，達摩院醫(yī)療AI實驗室展出了其AI醫(yī)學影像分析產(chǎn)品，借助AI技術，這項產(chǎn)品能夠從平掃CT中進行胰腺癌、食管癌、腸癌、胃癌等八大癌癥及一系列慢性病的篩查，吸引了不少觀眾。

　　展臺的工作人員告訴記者，通過AI識別，這項產(chǎn)品能夠在肝癌、肺癌等癌癥篩查中達到90%以上的準確率，提升醫(yī)生的工作效率，補足一些醫(yī)療資源不均衡帶來的問題。

　　“其實這項技術主要是面向B端的，為醫(yī)生服務，客戶更多是醫(yī)院、體驗機構、保險公司、公益組織以及軟件廠商之類的，但這兩天很多個人也非常感興趣。”上述工作人員表示。盡管許多AI醫(yī)療產(chǎn)品并未直接面向C端用戶，但外灘大會的觀眾們對AI醫(yī)療將如何改變疾病的診治感到好奇。

　　博斯騰科技的展臺則吸引到了大量的老年觀眾，許多老人紛紛拿出手機通過支付寶“碰一碰”進行答題，檢測自己得阿爾茲海默病的風險指數(shù)。展區(qū)的工作人員介紹，通過許多數(shù)據(jù)、資料的支撐，這款產(chǎn)品能夠通過答題測驗、語音交互、動作識別等方式檢測阿爾茲海默病，并通過大模型生成用戶專屬的腦健康訓練計劃。

　　“我們的產(chǎn)品2020年成型，但借助攝像頭的動態(tài)識別功能是今年剛推出的，主要是借力于AI功能的發(fā)達，包括訓練方案的推薦，也的確在大模型出現(xiàn)后智能了很多?！痹撜箙^(qū)的工作人員告訴記者。隨著AI的發(fā)展，更多AI醫(yī)療產(chǎn)品的“進化”值得期待。

　　需要強調(diào)的是，目前，許多AI醫(yī)療產(chǎn)品的診療效果仍缺乏公開數(shù)據(jù)或第三方權威機構的驗證，相關展臺的工作人員也均表示AI醫(yī)療產(chǎn)品無法完全代替醫(yī)生診療需求，以輔助作用為主。不過，AI在醫(yī)療問題中的應用的確被業(yè)界期待。

　　不少大廠也在押注AI醫(yī)療賽道。外灘大會上，支付寶發(fā)布AI應用新產(chǎn)品“AI健康管家”，為用戶提供找醫(yī)生、讀報告、陪看診、問醫(yī)保、管健康等30多項AI健康服務。百川智能創(chuàng)始人王小川則介紹，百川智能將重點在大醫(yī)療AI領域做投入，從兒科醫(yī)生、全科醫(yī)生兩個切入點發(fā)力，希望在明年實現(xiàn)醫(yī)療的低成本和可及性，減少醫(yī)院的擠兌現(xiàn)象。

　　全國政協(xié)常委周漢民在外灘大會的一場論壇中表示，隨著人工智能等新技術的不斷發(fā)展和應用，醫(yī)療產(chǎn)業(yè)正迎來一場深刻的變革。據(jù)他觀察，從最初的影像診斷、輔助診療、基因檢測，到近年來的藥物發(fā)現(xiàn)、臨床試驗、健康管理等，人工智能在提高精準度與效率、個性化治療、數(shù)據(jù)處理等方面具備顯著優(yōu)勢。他指出，醫(yī)療健康與人工智能的融合還延伸到了中醫(yī)領域。

　　談及人工智能在醫(yī)療產(chǎn)業(yè)的應用情況，周漢民表示，人工智能在醫(yī)療健康產(chǎn)業(yè)的應用應著力提高精準性、適用性和安全性，此外，還需關注人工智能的引入是否會導致醫(yī)護人員技能萎縮、對人工智能的信任的誤判以及信息超載。

　　以AI對抗AI

　　在期待技術帶來美好生活的同時，如何預防技術“作惡”也成為外灘大會討論的熱點話題。

　　今年的外灘大會上，舉辦了包括“afac2024金融智能創(chuàng)新大賽”和“全球Deepfake攻防挑戰(zhàn)賽”兩場子賽事在內(nèi)的AI創(chuàng)新大賽，由于近日韓國曝出“Deepfake”（深度偽造技術）事件，被認為是采用新犯罪手段的“N號房”案件重現(xiàn)，以AI對抗AI，Deepfake攻防挑戰(zhàn)賽尤其受到觀眾的挑戰(zhàn)。

　　事實上，隨著AI技術的發(fā)展，Deepfake滋生欺詐等黑色產(chǎn)業(yè)鏈，AI換臉欺詐帶來的經(jīng)濟財產(chǎn)損失、名譽受損等事件正在成為全球挑戰(zhàn)。

　　在外灘大會展區(qū)，許多觀眾現(xiàn)場拍照，然后利用Deepfake換臉模型和算法，通過視頻活化、微笑和眼鏡模版對觀眾的真實照片進行換臉，親身感受了Deepfake的逼真。

　　而在外灘大會AI創(chuàng)新賽·全球Deepfake攻防挑戰(zhàn)賽的表演賽上，觀眾更是為AI識別AIGC偽造圖片感到激動。在這場表演賽中，主持人拿出了9張瑪麗蓮夢露等女星的照片，其中2張是AIGC偽造的，選手用自己的參賽模型給出每張圖片的偽造概率值，并對概率值最高的2張照片與正確答案進行比對。最終，兩支參賽隊伍的模型都找到了正確答案。

　　在后續(xù)的互動中，一個有趣的現(xiàn)象是，人類肉眼能夠看出“一眼假”的偽造圖片，AI可能識別不出，一些肉眼真假難辨的圖片，AI反而能識別。新加坡科技研究局周天異教授分析，人類在判斷圖像是否偽造會依賴直覺和邏輯，一些人類一眼便知的問題AI無法聯(lián)系相關背景、情形無法識別，而一些難以識別的圖片，AI一絲不茍、勤勤懇懇地完成人類指令的工作模式反而能找出問題。他表示，相比“一眼假”的圖片，恰恰是這些難以識別的圖片往往給人類帶來更大損失，因此，用AI應對Deepfake有著重要意義。

　　“從我們現(xiàn)在看到的數(shù)據(jù)來看，我們叫Deepfake的攻擊也好，AIGC的生成偽造，今年的攻擊量比去年大概增加了10倍，去年攻擊的濃度大概是1%，今年就是10%。整個風險其實是呈指數(shù)級上升的情況，這不僅僅是在中國，在韓國，在菲律賓、印尼等國家都有類似的情況發(fā)生。”外灘大會AI創(chuàng)新賽·全球Deepfake攻防挑戰(zhàn)賽出題人、ZOLOZ技術總監(jiān)姚偉斌表示，10%的濃度意味著業(yè)界發(fā)現(xiàn)線上的流量有10%是Deepfake的流量，隨著AIGC的發(fā)展，生成的成本會越來越低，效率越來越高，明年可能不是20%，可能是50%，這是一個必須重視的威脅。

　　更多引導AI向善的觀點也在外灘大會被討論，姚偉斌坦言，研發(fā)檢測算法，只是遏制Deepfake技術濫用的方式之一。這種方式是相對滯后的。如果要從根源上防范欺詐行為，姚偉斌認為應在標準和立法角度，要求給A IGC 內(nèi)容建立通用標識，比如每一張AIGC生成的視頻或圖片都在文件信息里帶一個簽名或水印，這樣平臺管理更有依據(jù)，也能讓AIGC 可以更可信。

　　“讓人工智能幫助人彈鋼琴，而不是作惡。”是本屆外灘大會反復強調(diào)的價值觀。上海市數(shù)據(jù)科學重點實驗室主任肖仰華表示，AI的大規(guī)模濫用是可能損害人之為人的本性的。要有所為有所不為，但凡傷害人之為人之本性的AI應用，我們要謹慎，要加以限制。為此，“我們要重視技術治理，并將治理提前考慮，做到未雨綢繆?！?/p>

　　浙江強腦科技創(chuàng)始人兼CEO韓璧丞則表示，AI倫理委員會的存在非常重要。技術前進的時候，更應該關注“走的慢”的人。“當一個足以改變世界的技術出現(xiàn)時，我們先用它來幫助最需要的人”。

　　（本文來自第一財經(jīng)）