當前，隨著生成式AI、大模型等創新技術競相涌現，人工智能前沿技術正在持續迭代發展，廣泛應用于千行百業，產業規模快速增長。作為新一代科技和產業變革的重要驅動力量和發展新質生產力的重要引擎，人工智能的發展趨勢備受全球矚目。
10月23日上午，2024年世界科技與發展論壇“人工智能治理創新為培育科技治理生態構建國際信任基礎”主題會議在北京科技會堂召開。全球頂尖專家學者、國際組織代表和企業領袖齊聚一堂，共同探討人工智能的創新突破、產業應用、場景拓展與風險治理，旨在增進共識互信，推動形成全球人工智能治理合力，共謀人工智能領域創新發展未來。
2024年世界科技與發展論壇“人工智能治理創新為培育科技治理生態構建國際信任基礎”主題會議在北京科技會堂召開。[2024年世界科技與發展論壇 供圖]
在此前的開幕式上，2024年世界科技與發展論壇主席、中國科學技術協會主席萬鋼指出：“希望全球科技界更加重視發揮人工智能對科學研究的促進作用。構建以人工智能為基礎支撐的前沿科學研究的新范式，加快培育新業態，打造新引擎。”他強調，要共同推進法律法規、標準規范的銜接與協作，建立人工智能前沿研究和技術應用的評價、教育、預警和控制機制，加強人工智能的可信性、可靠性、可控性等安全風險的評價。
技術突破激發創新潛力 具身智能引領科技新潮
在此次會議上，專家學者與企業領袖圍繞人工智能的技術突破和產業化應用展開了深入探討。世界機器人合作組織理事長、中國科學院院士喬紅指出，人工智能已成為科技革命的驅動力，廣泛應用于智能制造、智慧城市、醫療健康和金融服務等領域。”她發布了《2024年人工智能十大前沿技術趨勢展望》，涵蓋AI共性技術、大規模預訓練模型、具身智能及生成式人工智能等多個方面，展現了AI技術的無限潛力與可能。
喬紅表示，“人工智能的發展正以前所未有的速度推進科技進步和社會變革，無論是AI共性技術、大規模預訓練模型、具身智能還是生成式人工智能等前沿領域，都充滿了無限的可能和潛力。這些技術的發展不僅將為人們帶來更加便捷、高效的生活方式，還將推動各行各業的創新和發展。”
北京智源人工智能研究院理事長、前任院長、北京大學教授黃鐵軍表示，人工智能作為機器智力，對人類社會的影響前所未有。他預測，未來幾十年內，人工智能有可能全面超越人類智能。
韓中科技合作中心首席代表、韓國科技部下屬軟件政策研究所首席研究員金俊淵（Jun-Youn Kim）分享了韓國在人工智能領域的研究成果。他表示，當前正處于AI發展的“寒武紀大爆發”時代，每天都有數百種新人工智能服務涌現。預計到2030年，人工智能的規模將達到目前的10倍。
作為人工智能領域的前沿賽道，具身智能正逐步走進現實，也成為了本次會議的熱點話題。多位專家與企業領袖圍繞具身智能展開了深入探討，展示了其在未來科技與社會發展中的巨大潛力。
樂聚機器人創始人常琳稱，具身智能、人形機器人已從小眾行業概念走向大眾視野。“人工智能，尤其是大模型的發展，極大提升了人形機器人的泛化能力，使其通用性能顯著提高，為解決機器人進入家庭等場景中的柔性工作和智能化問題帶來可能。”常琳表示，“未來，人工智能和機器人技術將解放人類，讓人們從繁重單一的工作中解脫，投身更多創造性工作。”
萬境千尋創始人韓峰濤指出，具身智能并非新詞，近年來的技術創新突破使其走入大眾視野。以機器人行業為例，“核心突破在于將人工的智能轉化為人工智能，不再需要人工參與每個環節，”而是讓機器人通過文生圖、文生動作等技術實現更加自主的任務執行。
技術進步伴隨風險 安全與倫理挑戰并存
人工智能的快速發展也引發了一系列的倫理問題和社會挑戰，需要國際社會共同推動人工智能治理合作。
中國工程院院士、北京郵電大學教授張平指出：“生成式人工智能突破性的進展為我們人類帶來便利的同時也帶來一些安全和倫理的挑戰。基于AIGC的身份造假，還有不當的言論問題頻發。” 他介紹了其所在的AI安全治理實驗室研究進展，包括通過構建通用人工智能的理論框架，從技術層面確保AI技術發展的安全可控；研發超級對齊技術，確保AI輸出與人類觀點、決策對齊。同時，通過可解釋性和自動化評估，通過外部監測的角度保障通用人工智能技術是科技向善的。
黃鐵軍教授也警示了人工智能發展的潛在風險，并呼吁企業在面對商業利益與人類福祉的選擇時，應以人類福祉為導向。他強調，全球范圍的監管至關重要，以防止掌握先進人工智能技術的壟斷企業謀取超額利益，導致社會財富集中、加劇貧富差距和社會不平等。
常琳表示，企業需承認人工智能存在風險，并以負責任的態度持續迭代和修復問題。加速進化創始人、CEO程昊指出，機器人的安全問題復雜，需關注物理安全和算法安全等方面。他提到，機器人運行中可能出現故障或算法問題，對人類造成傷害，因此需在系統層面進行安全設計，確保機器人在危險情況下及時停止運行。銀河通用創始人、CEO王鶴分享了自動駕駛行業在物理安全方面的經驗，強調了安全治理的重要性。
秉持人類命運共同體理念 以國際合作共筑智慧未來
針對人工智能的風險和挑戰，多位嘉賓強調了國際合作與全球治理的重要性。黃鐵軍教授表示，人工智能力量強大，必須在國際范圍內充分合作，確保其不被少數集團濫用。他直言：“國際合作探討人工智能治理方案至關重要。這是人類共同面對的挑戰，解鈴還須系鈴人，需用技術手段進行管理，確保其不被濫用。”
黃鐵軍還提到，全球科學家在人工智能技術上的共識遠大于分歧。他認為，科技合作往往比政治合作更加開放，科學家們更多關注技術的應對方案，而非制造國家間的沖突。“世界科技發展論壇這樣的國際交流平臺，對于推動人工智能行業的發展起到了非常重要的作用，雖然當前國際形勢復雜，但通過面對面的交流，很多問題都能夠得到緩解，合作的機會也會因此增加。”
黃鐵軍表示，在構建人類命運共同體的框架下，確保人工智能的發展服務于全人類的共同福祉，這是我們必須要遵循的方向。”
常琳指出，盡管地緣政治帶來了諸多挑戰，但民間的國際交流依然十分活躍，全球范圍內對中國技術的合作需求持續增加。“不論在哪個國家，大家都渴望與中國展開合作。中國的國企、央企、大型民營企業在國際市場上做了很多努力。我們需要克服障礙，繼續推動國際合作。”
銀河通用創始人王鶴則強調了國際市場的戰略重要性，尤其是在人工智能和人形機器人領域。“人形機器人在全球范圍內具有廣闊的市場潛力。中國企業在出海過程中，需要積極融入當地市場，并且在國際市場上營造出科技向善的風氣，減少摩擦。”
世界工程組織聯合會前任主席龔克則強調了幫助發展中國家和地區的重要性，指出很多國際沖突源自發展的不平衡。他認為應當利用先進技術幫助發展中國家走出可持續發展的道路。“好的生產力能夠推動世界走向和平。” 龔克表示。
0 
