AI行業重心將轉向增強可靠性

階躍星辰發佈號稱全球首個大模型原生智慧體手機；阿裏巴巴集團聯合榮耀，基於千問大模型共創面向手機場景深度優化的方案……如今，AI不再只是“技術炫技”，還正深入賦能千行百業。如何進一步推動AI技術落地應用？記者近日進行了採訪。

　　隨着技術的發展，AI將為真實世界帶來更多改變。“今天的AI讀遍了人類的幾乎所有論文，卻沒有親手做過一次實驗。”在復旦大學浩清特聘教授、通用物理智慧研究院首任院長蘇昊看來，當具備感知和操作真實世界的能力後，AI將能自主提出假設、開展實驗並持續修正，AI有望從科學的“讀者”，變為知識的“創造者”，從而顯著加速新材料、新藥等領域的發現進程。

　　“從新藥發現、醫學影像分析，到臨床試驗設計和個性化治療，AI正在融入科學發現、臨床診療和公共衞生體系。”紐約科學院院長兼首席執行官杜寧凱説，AI正深刻影響多個關鍵環節，甚至改變未來醫療實踐模式。

　　推動AI技術落地，“可靠”成為受訪專家反復提及的關鍵詞之一。“行業的重心，將從‘演示做得多驚艷’，轉向‘運行得有多可靠’。”蘇昊説，在工程領域，從99%提升到99.9%，每多一個“9”，難度都呈指數級上升。“演示與産品的差距，就卡在最後那幾個‘9’裏。”他説，“通用性是終點，而可靠性才是起點。”

　　而在中國工程院院士、之江實驗室主任王堅看來，AI需要突破對文本數據的依賴，直接面向科學數據開展建模。他舉例道，在地球科學領域，超過70%的關鍵信息來源於光譜、地震波等原始數據，而不是論文文字，“一張圖勝過千言萬語，而一段光譜可能勝過千萬張圖”。因此在他看來，未來基礎模型應實現文本、代碼與科學數據的統一建模。“AI將像數學一樣，成為支撐科學研究的基礎能力，在未來50年裏，對科學研究産生深遠影響。”王堅説。

　　AI的倫理問題同樣值得重視。“涉及價值判斷的問題不能簡單交由AI處理。”清華大學蘇世民書院院長薛瀾説，“人類社會中，人一旦犯錯，可以區分主觀故意與無心過失，並據此承擔相應責任；但AI系統本身不具備主體責任承擔能力，無法被追責受罰。”他認為，針對AI事故，不能套用對人的歸責邏輯，而應梳理全流程執行鏈條，定位具體環節，並對鏈條上的相關主體分別完善管理機制，從而形成區別於人類社會的AI問責體系。

　　“構建AI安全體系需要把握三方面重點。”薛瀾建議，一是明確不可觸碰的底線紅線，劃定AI絕對不能逾越的行為邊界；二是搭建常態化風險監測預警機制，在系統運行狀態逼近紅線、出現異常隱患時主動發出預警；三是面向全社會普及AI相關認知，並加大AI倫理與安全方向的科研投入。