當AI加速從展示性場景走向真實業務，“可不可信”成為關鍵問題。在日前舉行的2026世界頂尖科學家論壇“人工智能平行論壇”上，科學家和產業界代表直面一系列現實問題：算法偏見、數據安全、生成內容幻覺、技術濫用，以及不斷拉大的智能鴻溝。現實証明，AI不能等系統上線后再補安全課，可信不是“附加項”，而是“基本項”。

中國科學院院士、華東師范大學終身教授何積豐早在2017年就提出了“可信人工智能”理念。在他看來，AI不應成為“黑箱”，可信不能停留在原則宣示上，而應嵌入AI研發全流程﹔應通過形式化方法和對齊技術，在知識理解和風險緩解環節前置安全機制，為技術可信奠定基礎。

在AI應用落地過程中，“為建而建”的形式主義並不少見，數據質量、業務融合和價值量化等領域的瓶頸突出。技術能力快速提升而治理能力相對滯后，正成為AI落地“最后一公裡”的關鍵約束。可信AI不是一次性合規動作，而是貫穿研發、部署、運行全生命周期的治理能力建設。

當前，主流大語言模型從海量互聯網數據中提取統計規律，並據此預測下一個詞元。而基於統計原理預測的AI系統，准確率不可能達到100%，智能體也始終可能產生不可預測的行為。若要讓AI承擔社會功能，未來可能需要引入物理規律和邏輯規律作為新的技術基礎。2024年沃爾夫數學獎獲得者、普林斯頓大學教授諾加·阿隆說，AI在數學解題上已表現出很強的能力，但“基本上是在使用現有方法，並未真正發明新方法”。換言之，AI能在既定問題空間內高效搜索﹔一旦問題空間本身被重新定義，它的“可靠性”就失去了參照。對齊也不是一次性寫入規則，而是伴隨模型能力演化的持續治理過程。

2015年圖靈獎得主、斯坦福大學榮休教授馬丁·赫爾曼直言，AI風險、核戰爭威脅與氣候變化歸根結底同源：技術讓人類擁有近乎“神明般”改造世界的能力，而人類的行為方式卻仍像“不負責任的青少年”。他因此提出“過程性思維”：不能指望一次建成理想秩序，但必須開始從對抗轉向合作。對AI全球治理而言，這意味著治理是持續校准、逐步嵌入護欄的過程，而不是“要麼放任、要麼封禁”的二選一。

下一個十年，AI競爭不會只是模型參數和算力規模的競爭，更是可信能力與治理智慧的競爭。從“事后處置”轉向“事前預防”，把可信從“工具附加項”轉向“系統重構”，從追問“能做什麼”轉向追問“在哪些約束下能可靠地做成什麼”——這或許是AI更深融入社會之前最需要補上的一課。（記者 王春）