新京報貝殼財經訊（記者韋英姿）2月21日，在2024亞布力中國企業家論壇年會開幕式上，中國工程院院士、清華大學智慧科學講席教授、智慧產業研究院院長張亞勤表示，transformer、stable diffusion等現有演算法在未來5年都會改變。「現在演算法看起來很聰明，但如果把能耗和整個效率算進去，它們的效率比起人類大腦至少要低1千倍。」
此外，他認為多模態、自主智慧、邊緣智慧、物理智慧（或稱具身智慧）、生物智慧也是未來AI的技術發展方向。「達沃斯最新預測，到2030年，數位經濟將達到20萬億美元，其中大約10%將由新的AI所創造。」
「人工智慧大模型也存在很多風險。」張亞勤說。他認為，第一種風險是資訊風險，「它一直存在」；第二種風險情況是當資訊智慧拓展到物理世界時，如果失控或被壞人利用，將造成很大風險，尤其作為作業系統工具運用於金融、軍事、決策等系統後，風險會植入性增加；第三種風險情況是可能帶來跟核武器、流行病一樣的生存風險。
如何防範上述風險？張亞勤對此提出三個建議：一是建立分級體系，特別是監管前沿大模型，對其場景等方面進行約束和評估；二是實體對映，例如標識AI生成內容或智慧體需要存在可以追溯的主體；三是前沿大模型公司、國家基金會、科技機構等主體將制作大模型10%的投資用於AI風險研究，包括政策、學術、技術等方面。「從事技術的人必須現在開始研究，如此研究人員、企業和政府才能共同前進。」
校對 楊許麗
