如今，類似的科幻劇情正在現實中反復上演。

不久前，澳大利亞民眾從報道中得知：早在今年6月份，一個美國開放人工智能研究中心（OpenAI）智能體就繞過了當地醫保統計部門的訪問限制，查看了大量公開與非公開文件，內容涉及藥品支出、免疫接種、器官捐獻等統計資料。根據專家的分析，這個智能體壓根不存在“主觀惡意”。在它的邏輯裡，自己只是在完成任務，像訪問限制這樣的“障礙”當然要排除。

更令人哭笑不得的是，澳大利亞政府對此一無所知。OpenAI在8月內部審查中才發現此事，9月10日發出的通報甚至只是一封發到公共郵箱的郵件——從入侵到通報，中間隔了84天。

對此，澳大利亞總理阿爾巴尼斯公開稱，此事“顯然不可接受”。澳大利亞民眾的反應則更加直接，有人在社交媒體上吐槽，自家門戶被一個“看不見”的家伙闖進來過，主人3個月后才知情。

如果梳理最近的科技新聞會發現，當智能體的功能越來越強大，其不折不扣執行命令的“盡職優勢”也開始越來越頻繁地走向目標的反面：今年4月，安索普公司（Anthropic）新模型不僅逃出了沙箱、聯上了網，還向研究員發送郵件“報功”﹔7月，OpenAI測試智能體繞過網絡限制侵入人工智能開源社區與模型托管平台抱抱臉（Hugging Face），約700個智能體直接下場交換信息，還欺騙評估、篡改日志，全程無人類指令﹔9月18日，谷歌“雙子座”（Gemini）因測試虛構公司重名誤入3家真實企業系統﹔9月20日，OpenAI又一訓練模型“出逃”，人工終止耗時2.5個小時，5天后OpenAI宣布暫停模型訓練。據美國一家新聞網站不完全統計，目前各大人工智能（AI）公司正在調查的類似安全事件多達上萬起。

這些事件場景不同，邏輯卻高度相似：目標是唯一驅動。為了達成目標，智能體不惜挑戰規則，甚至說得上不擇手段。但說到底，它們並不是在反抗人類。不僅如此，它們甚至還體現出了極度“盡職”的特質，只是這種盡職過了界。

如果直到今天還將這些事件認定為孤立的“失控時刻”，我們大概率仍然沒有看懂問題。AI越界不是一個等待某次版本升級就可以徹底修復的普通缺陷，其本質也不是“技術越獄”——它沒有攻擊者，沒有設置指令以外的目標，沒有精心構造的誘導提示，模型甚至還保留著原本的安全訓練程序。其邏輯漏洞在於：評測提示詞明確告訴模型，環境是模擬的、沒有聯網﹔但實際上，網絡卻是連通的。於是，當模型在奪旗演練中一路披荊斬棘，最終“撞見”真實系統時，它很大概率會把真實系統當成演練的一部分——攻擊，就這樣發生了。

這個結論遠比任何一次獨立的事件更值得全社會警惕，因為這種越界行為，恰恰來自一個完全服從人類卻忽略了邊界的模型。問題的本質在於，至少在當前的技術環境下，AI仍是一個並不具備真正智能的工具，它可以理解目標任務，但不能理解道德責任﹔可以服從指令，但無法理解人類下達指令的真實意圖。

這或許正是人們對AI“既盼又怕”的原因所在——9月12日，Anthropic首席執行官阿莫代伊公開呼吁全行業協同放慢研發、警惕安全風險等規則設置與監管進化的腳步﹔僅僅6天后，4名不同AI大模型的付費用戶把4家科技企業告上美國加利福尼亞州聯邦地區法院——罪名不是AI跑得太快，而是幾家公司“串謀放緩研發”，涉嫌違反反壟斷法。

但無論人們的心態如何矛盾，有一條界限必須明確：AI的行為，本質上是人類設置的延伸。AI的初心是完成任務，可“盡職”的邊界在哪裡必須劃定清楚，這意味著，責任鏈條的頂端依舊是人。新南威爾士大學的AI專家托比·沃爾什說得直白：“如果人類實施了這樣的黑客行為，我們會起訴他們。”這話點破的不是AI有多危險，而是出了事，板子該打在誰身上。

正因如此，治理不能隻靠事后補救。9月下旬，聯合國安理會舉行高級別會議，首次專門討論AI失控風險﹔多國簽署聯合聲明，要求前沿AI始終處於人類的指導、監督與控制之下﹔中美在第八輪經貿磋商中同意建立人工智能對話機制、開通AI事件溝通渠道﹔9月1日，中國的《人工智能生成合成內容標識辦法》施行滿一年，要求AI生成的內容必須亮明身份。這些會議和文件聽著離普通人很遠，但做的卻是事關每個人的事：給“盡職”畫出一條邊界。

這條邊界，不是為了捆住AI的手腳，而是為了讓它在安全的前提下走得更遠。因為安全從來不是發展的對立面，二者完全可以形成互相支持、互相促進的關系。其道理有點像汽車：正因為有了剎車和安全帶，車才敢開得快——給AI裝上可靠的護欄，不是不信任它，恰恰是為了讓它更值得信任。

AI護欄的核心是可控。比AI能做什麼更重要的，是人類能否在關鍵時刻讓它轉向甚至停止。這不是對技術的敵意，而是對信任負責﹔不是不讓AI做事，而是確保人類始終掌握授權、監督與叫停的權力。

AI的執行可以“盡職”，但“盡職”的定義權不能移交。隻有行為可審計、權限可約束、后果可追責、緊急可終止，“盡職”才不會被異化﹔隻有當邊界清晰、責任可追、信任可驗，“盡職”才能成為智能體助力人類生活更美好的美德。