單打獨(dú)斗已不適合大科學(xué)時(shí)代的科技創(chuàng)新，要進(jìn)行有組織科研；人工智能(AI)大模型就像孫悟空，需設(shè)好緊箍咒；AI的本質(zhì)是集體，而不是個(gè)人……以“科技·創(chuàng)造可持續(xù)未來”為主題的2023外灘大會昨天在上海開幕，近20位中國兩院院士、諾貝爾獎(jiǎng)和圖靈獎(jiǎng)得主齊聚浦江之畔，今年“大咖”們聚焦的主題都格外“腳踏實(shí)地”，圍繞基礎(chǔ)研究、前沿?cái)?shù)字科技等展開深度探討。
張人禾：單打獨(dú)斗不適合大科學(xué)時(shí)代的科技創(chuàng)新
9月1日，復(fù)旦大學(xué)20年來首次舉辦戶外開學(xué)典禮。決定的依據(jù)是什么？中國科學(xué)院院士、復(fù)旦大學(xué)副校長張人禾揭秘：因?yàn)?ldquo;伏羲”說，9月1日不下雨。最后，這個(gè)氣象大模型的判斷與實(shí)際結(jié)果完全一致。
借由這個(gè)案例，張人禾提出：AI不但改變了我們的生活，也為科學(xué)研究帶來了更多可能。他表示，AI在科學(xué)研究中的地位，要從范式變革的角度來理解，傳統(tǒng)科研范式已經(jīng)歷4個(gè)演化階段，而當(dāng)下，科學(xué)智能通過多模態(tài)大模型等新技術(shù)，再次改變了基礎(chǔ)科學(xué)研究范式。
“在基礎(chǔ)研究領(lǐng)域中，許多模型都遵循數(shù)學(xué)與物理定律，科學(xué)智能可以幫助我們?nèi)ソ馕鎏剿鬟@些規(guī)律，為復(fù)雜場景提供研究新線索、科學(xué)新假設(shè)，從而發(fā)現(xiàn)新物質(zhì)、合成新材料，構(gòu)建新機(jī)理。”他舉例解釋，比如AI在量子力學(xué)中，可用于學(xué)習(xí)神經(jīng)波函數(shù)，進(jìn)行量子多體問題的求解，“AI可以在假設(shè)形成、實(shí)驗(yàn)設(shè)計(jì)、數(shù)據(jù)收集和分析等過程的每個(gè)階段增強(qiáng)和加速研究，從而重塑科學(xué)發(fā)現(xiàn)。”
張人禾認(rèn)為，科學(xué)智能的發(fā)展正在從部分機(jī)構(gòu)的探索變成產(chǎn)學(xué)研各界的共識，從點(diǎn)狀突破變?yōu)橄到y(tǒng)布局，已成為AI的重點(diǎn)發(fā)展方向。國內(nèi)科學(xué)智能也相繼涌現(xiàn)出科學(xué)領(lǐng)域大模型，但仍處于起步階段。他認(rèn)為，面對AI時(shí)代的來臨，單打獨(dú)斗已不適合大科學(xué)時(shí)代的科技創(chuàng)新，要進(jìn)行有組織科研，布局建設(shè)大平臺，推動跨學(xué)科交叉研究，激發(fā)創(chuàng)新突破，加速科技創(chuàng)新與產(chǎn)業(yè)變革的深度融合，推動產(chǎn)業(yè)轉(zhuǎn)型升級。
何積豐：大模型就像孫悟空，需設(shè)好緊箍咒
大模型進(jìn)入大眾視野不超過一年，中國科學(xué)院院士何積豐形容是“生活在早期的黑暗叢林里，感覺到處都埋伏著風(fēng)險(xiǎn)卻又看不清”。
為何會有這種不安全的感受？何積豐指出了大模型與之前AI在安全上的本質(zhì)區(qū)別：它不僅展示出通用人工智能的能力，而且迅速深入到生產(chǎn)生活的各個(gè)場景中，可謂“無孔不入”，因此帶來新的安全隱私問題，這既可能發(fā)生在訓(xùn)練過程中，也可能發(fā)生在使用過程中，還會讓使用者面臨“要么失去隱私，要么失去服務(wù)”的兩難境地。不僅如此，大模型的生成能力還讓“隱私泄露”變得多樣化，造成隱私保護(hù)更加困難。
“為了應(yīng)對這些問題，我們需要大模型對齊技術(shù)。”何積豐說，“對齊”是指系統(tǒng)目標(biāo)和人類價(jià)值觀一致，使其符合設(shè)計(jì)者的利益和預(yù)期，不會產(chǎn)生意外的有害后果，“如果把AI看作孫悟空，‘對齊’就是唐僧口中的緊箍咒。有了緊箍咒，就可以保證技術(shù)不會被任意使用。”
不過，對齊技術(shù)同樣面臨挑戰(zhàn)，不僅考驗(yàn)技術(shù)，也審視文化。何積豐介紹，反饋強(qiáng)化學(xué)習(xí)是實(shí)現(xiàn)對齊的技術(shù)途徑，目前有兩種方式，一種方式是通過人工反饋給大模型不同的獎(jiǎng)勵(lì)信號，從而引導(dǎo)它高質(zhì)量輸出；另一種方式是事先給大模型提供明確的原則，系統(tǒng)自動訓(xùn)練模型對所有生成的輸出結(jié)果提供初始排序。“這意味著，不僅智能系統(tǒng)需要向人類價(jià)值觀對齊，人類的訓(xùn)練方法也要向價(jià)值觀對齊。”何積豐說。
邁克爾·I·喬丹：AI的本質(zhì)是集體，而不是個(gè)人
“如果你問ChatGPT，剛剛寫的內(nèi)容你確定嗎？它完全無法回答這個(gè)問題。”一上臺，機(jī)器學(xué)習(xí)泰斗、美國“三院”院士邁克爾·I·喬丹就拋出了一個(gè)他在生成式人工智能問題上最感興趣的點(diǎn)——“不確定性”。
“人在遇到‘不確定’的時(shí)候，非常擅長溝通信息以及應(yīng)對它。但ChatGPT無法對不確定性進(jìn)行量化，所以，我們需要找到一個(gè)可能的方法去應(yīng)對這些挑戰(zhàn)。”他不認(rèn)為有一種所謂的超級電腦會替代人，應(yīng)該把技術(shù)看作是一個(gè)工具來賦能人類，建議關(guān)注集體的智能體。
“AI的本質(zhì)是集體，而不是個(gè)人。”喬丹表示，科技是一個(gè)非常好的工程系統(tǒng)，公平、公正、透明、穩(wěn)定，是這個(gè)工程系統(tǒng)的特點(diǎn)，而不是系統(tǒng)當(dāng)中個(gè)體的特點(diǎn)。也正因此，需要建立一個(gè)協(xié)作式、去中心化的系統(tǒng)來實(shí)現(xiàn)集體智能，“日常生活中經(jīng)常遇到不確定性，讓去中心化的系統(tǒng)能幫助我們更好、更有效地應(yīng)對日常世界中的不確定性，這才是我們亟待解決的問題。”
倪以理：生成式AI將開啟數(shù)萬億美元賽道
“下一個(gè)中國，還是中國。”麥肯錫中國區(qū)主席、全球資深董事合伙人倪以理認(rèn)為，中國市場蘊(yùn)藏著巨大的發(fā)展機(jī)遇，全球沒有任何市場能夠替代中國市場。
今年以來，生成式AI的技術(shù)風(fēng)暴席卷全球，倪以理特別看好這一行業(yè)，認(rèn)為它將開啟價(jià)值超過萬億美元的賽道。不僅如此，生成式AI有望開啟一場關(guān)系到未來8至10年發(fā)展的新一輪技術(shù)和產(chǎn)業(yè)變革，“我們做了一個(gè)測算，生成式AI對全球經(jīng)濟(jì)的正面影響最高可達(dá)7.9萬億美元，而AI對全球經(jīng)濟(jì)的潛在收益更將達(dá)到25萬億美元，這是當(dāng)前所有企業(yè)最重要的賽道之一，但這個(gè)時(shí)代剛剛開始。”
“生成式AI將對所有行業(yè)產(chǎn)生重大影響。”倪以理認(rèn)為，排名前三的行業(yè)分別是高科技、零售、旅行。他舉例說，在高科技行業(yè)，該技術(shù)每年可以額外創(chuàng)造2400億至4600億美元的價(jià)值；在零售和消費(fèi)品領(lǐng)域，每年可達(dá)2400億至3900億美元；在整個(gè)銀行業(yè)，每年可達(dá)2000億至3400億美元。他還指出，生成式AI可以大幅促進(jìn)生產(chǎn)力提升，并提供新的就業(yè)機(jī)會。
來源：文匯報(bào)
記者：徐晶卉
寧德新聞監(jiān)督電話:0593-2099788 投稿郵箱：ndnews@126.com
閩公網(wǎng)安備
35099902000052號