「未來100年後，我們看現在的人類，就像人類看四萬年前的山頂洞人。未來一定是人工智慧和機器融合的時代，我們必須正視AI（人工智慧）帶來的風險，如果不加以引導控制，可能會引起生存危機。」
伴隨Sora、ChatGPT等接連誕生，人工智慧正在引爆新一輪產業革命，在2024年博鰲年會上，中國工程院院士、清華大學智慧產業研究院院長張亞勤談到他心中的人工智慧發展趨勢。
「這是我第八年參加博鰲，也是第八次在現場討論人工智慧。」小i集團董事長兼執行長袁輝袁輝笑稱，在他第一次參延長，當時的科技圈普遍認為人工智慧的「奇異點」還很遙遠，如今科技發展瞬息萬變，人工智慧已成為人類需要思考和警惕的巨大挑戰。
第四正規化聯合創始人胡時偉則在接受澎湃新聞記者采訪時表示：「新質生產力是定義人工智慧的模式和路徑，人工智慧是新質生產力重要的技術手段支撐和發展的重要引擎。這是國家戰略層面的重要方向，我們要做的事情就是積極地去實作這個方向。」
人工智慧的未來究竟會走向何方？現場，多位學者和企業家展開熱議。
大語言模型就像「黑匣子」
「現在的AI只是一個看似智慧的資訊處理工具，並不具備真正的人類理解能力。」中國科學院自動化研究所研究員、聯合國人工智慧高層顧問機構專家曾毅表示。
人工智慧作為學科出現時，普遍被認為能精確描述人類的智慧學習或是方方面面，當前的人工智慧在行為上看起來有接近人類水平的表現，但在一些關鍵的人類從不犯錯誤的領域，人工智慧不停犯錯，這說明現在的人工智慧系統還只是一個看似智慧但還沒有真正的智慧能力的系統。
在曾毅看來，機器人如今仍然是透過行為的模擬，盡可能和人類的接近。「但即使人只能做到60%，機器能做到99%，那百分之一就是人和機器的差別。」
「人工智慧是賦能所有行業的，現在已經像感覺空氣一樣感覺到它的存在，而且一旦斷開就再也沒有生存可能，如今人工智慧已經浸潤人們生活的每個方面，滲透到思考、呼吸以及每個動作，沒有一個產業有理由拒絕人工智慧。」袁輝表示，通用人工智慧（AGI）最早的定義就是未來何時會具備人類一樣的自我意識，那將是對人類產生終級挑戰的物種。
「未來人類如何更好利用AI，將會是每個個體、乃至企業跑贏大盤的關鍵。」袁輝認為。
加州大學柏克萊分校電腦科學教授史超活·羅素表示，當前的人工智慧系統仍然存在技術缺口，簡單的模型擴充套件和數據增量並不能完全彌補這些差距。在他看來，現有的大語言模型像是一個「黑匣子」，其內部機制和運作方式並不透明，這使得人們難以確定其真正的目標和潛在風險。
人類在面對比自己更強大的機器時，應該如何保持掌控權？羅素呼籲，應當在人工智慧領域進行更深入的研究，以實作所謂的「可證明的AI」，即能夠證明其行為對人類有益的系統。
張亞勤則坦言，未來AI發展風險需要引起重視，人工智慧加速了人類腦力的前進演化，未來一定是人工智慧和機器智慧融合。但風險很大，我們必須正視風險，如果不加以引導控制，這個風險會轉化成為人類生存的風險。
談國際差距：有能力未來對標國際頂尖
在中美AI差距方面，袁輝表示，本質上從演算法、數據和套用場景來看，各個國家有不同的優勢。「中國從互聯網開始，在套用領域是全球領先的。但我們需要在基礎核心的技術研發領域進一步發力。」同時他表示，近年來無論是在專利、智慧財產權申請還是論文發表方面，從數量和品質方面都有很大的躍升。
科大訊飛副總裁劉聰則告訴澎湃新聞記者，中國確實和國際頂尖的AI水平存在一定差距，這是共識，但是這樣的差距正在持續地追趕，在他看來，通用大模型的主戰場還是底座大模型，中國大模型底座能力需要依托自主可控平台進行創新。科大訊飛去年與華為聯合推出的第一個支持萬億浮點參數訓練的國產算力訓練平台「飛星一號」，科大訊飛在今年1月30日釋出訊飛星火大模型V3.5，同步推出星火語音大模型。訊飛星火V3.5七大核心能力全面提升，其中語言理解、數學能力超過GPT-4 Turbo，程式碼達到GPT-4 Turbo 96%，多模態理解達到GPT-4V 91%。
劉聰認為，中國有能力在算力平台上對標國際頂尖水平，目前，對標GPT-4當前能力的訊飛星火V4.0正在訓練中，預計在2024年6月釋出，將在中文能力上實作完全對標。
而在曾毅看來，中國未來人工智慧發展不僅僅是要在最基礎模型上進行顛覆式創新，更關鍵的是全自主的軟硬體協同創新，雖然人工智慧趨勢是全球化產業鏈，但是中國要做好軟硬體基礎設施上不依賴於可能會脫鉤斷鏈技術的準備。不過，人工智慧「脫鉤斷鏈」的做法可能得到全球反對，這會對全球產生更大的數位鴻溝。
他認為，為了避免這樣的趨勢，中國發展人工智慧模型演算法算力，未來應當它共享給全球。
「AI人才最緊缺，機會才剛開始」
對於大模型和生成式AI的關系，張亞勤表示，前者是技術、後者是能力。因為有了預訓練的、超大規模的、自監督式的大模型，生成式AI才具有巨大能量，未來大模型的走向將分為三個方向，其中，第一個是多模態，第二個是自主智慧，第三個是邊緣智慧。
張亞勤表示，AI大模型走向自主智慧，就可以制定目標、規劃任務、自我制定路徑、自我完成方案、自我編碼。
在談到AI是否會取代人類工作時，高通公司中國區董事長孟樸坦言，他並不焦慮，「我不太相信我們自己創造人工智慧把我們完全替代，我倒更擔心的是一部份掌握人工智慧的人會搶占先機，人工智慧時代，我們要利用人工智慧，把最新的技術、最新的教育帶到鄉村，讓所有的人都能掌握這些技術。」
在發展大模型產業中，算力、演算法、數據和人才哪個最重要？
胡時偉告訴澎湃新聞記者，目前AI產業人才稀缺，「目前能解決超大規模集群的這些人才，肯定是稀缺的。另外，產業內還稀缺具備數位化思維，能夠用人工智慧的技術能夠去解決行業問題，定義行業問題，並解決行業問題的人才。」
張亞勤則表示，上面這些因素都很重要，但長期來看的話，還是人才最重要，「現在人工智慧發展階段還處於42公裏馬拉松的第5公裏，機會才剛剛開始。
澎湃新聞記者 範佳來
(本文來自澎湃新聞，更多原創資訊請下載「澎湃新聞」APP)
