AI開始“搶跑”,科研規則面臨新考驗
222
訂閱已訂閱已收藏
收藏點擊播報本文,約
隨著人工智能(AI)智能體自主開展科學研究的能力不斷增強,科學家正面臨一個曾經難以想象的問題:自己的研究成果會不會被AI搶先發現、搶先發表?
過去5周內,至少已有兩起類似事件。科學家長期追尋的問題,竟被AI公司搶先給出了答案,或在他們准備公布成果前就有了結果。擔心未發表的研究被AI獲取,一些科學家開始減少使用這類工具。
與此同時,一些AI研究人員認為,隨著AI智能體能力不斷提升,它們確實可能比科學家更早找到答案。
AI與科學家的研究“撞車”
在數學領域,美國紐約大學數學家特裡斯坦·巴克馬斯特與AI公司Anthropic數學家萊文特·阿爾波格合作研究納維-斯托克斯問題已有一年。9月7日,巴克馬斯特公布了研究進展,並附上一份解決該問題的簡化版論文。次日,OpenAI宣布,其AI智能體已經解決了這一著名數學難題。
巴克馬斯特隨后提出疑問:他與合作者此前輸入OpenAI工具的信息,是否可能被用於訓練模型?OpenAI否認了這一猜測,並表示在研究成果公開前,其研究人員和AI智能體沒有接觸過這些成果。
生物學領域也出現了類似爭議。9月23日,Anthropic宣布,其AI智能體Claude發現了一種新型酶系統,並將其命名為“陣列相關逆轉錄酶”(ART)。公司稱,Claude通過分析大量DNA序列,發現某些逆轉錄酶附近存在類似CRISPR的重復DNA序列。
幾天后,丹麥哥本哈根大學計算生物學博士生馬裡奧·羅德裡格斯·梅斯特質疑:自己和同事從2022年起便開始研究相關酶,並在過去幾年使用Claude處理科研任務,向其分享尚未發表的研究材料。而Claude公布的系統與團隊此前的研究存在明顯重合,尤其是逆轉錄酶附近的重復序列及相關分子。不過,他無法確定Anthropic宣布的發現是否受到其研究的影響,也沒有証據証明公司直接使用了這些未發表成果。
Anthropic回應稱,公司此前並不知道有研究描述過相同的生物學發現,並表示Claude的獨特貢獻在於識別出相關逆轉錄酶屬於一個更大的系統。公司還強調,Claude沒有使用用戶對話記錄進行訓練。
英國《金融時報》指出,這些事件引發了一系列深刻問題:誰擁有並控制科學數據?當科學家向AI智能體提供尚未發表的研究思路時,什麼樣的發現才能算作AI自主完成的發現?在AI輔助取得科研突破的時代,研究成果應當如何署名和確認貢獻?
科學家對AI使用作出限制
目前,不少科學家開始重新審視向商業AI工具提供研究信息的風險,並調整使用方式。
德國明斯特大學生殖表觀遺傳學家桑德拉·勞倫蒂諾表示,她現在隻用AI檢查代碼錯誤。使用前,她會將代碼中的參數和變量名稱改成通用標簽,以免向系統透露實驗信息。
新西蘭奧克蘭大學聽覺認知科學家塞繆爾·梅爾為實驗室制定了AI使用政策,禁止學生向商業大語言模型上傳受保護的信息,並提醒他們不要將這些模型用於研究過程中的任何環節。在他看來,如果無法確定第三方會如何處理相關信息,將知識產權交給商業AI服務存在很大風險。
選擇退出模型訓練,也未必能完全消除科學家的顧慮。AI研究人員、非營利組織Evitable創始人大衛·克魯格指出,即使用戶退出模型訓練,甚至完全不使用相關系統,也未必能確保信息安全。
風險還可能出現在科研管理環節。《金融時報》指出,外部評審人員如果將保密的科研基金申請書上傳至AI模型進行評估,也可能使尚未公開的研究構想暴露。英國惠康基金會等科研資助機構已禁止此類做法。
AI參與科研需得到規范
AI會不會搶在人類之前找到答案?美國加州伯克利AI安全研究機構Resolution首席科學家杰弗裡·歐文認為,即使AI智能體從未接觸科學家的私人研究數據,人類長期積累的“知識海洋”也足以支撐它們不斷取得新發現。隨著推理能力持續增強,科學家可能一次又一次發現,AI已經先於自己找到了答案。
歐文強調,科學發現被AI搶先,不一定是因為上傳了未發表的論文,也可能只是因為AI越來越擅長解決問題。當被問及這一預測時,OpenAI拒絕置評,Anthropic則未作回應。
不過,能搶先給出答案,不等於能獨立推動科學發現。AI研究人員、舊金山初創公司Adaption聯合創始人薩拉·胡克認為,AI智能體目前仍不擅長提出推動科學發現所必需的問題,科學家在提出假設、確定研究方向方面依然發揮著關鍵作用。
AI參與科研的程度不斷加深,科研規范也需要回應新的現實。英國《自然》雜志9月16日發表社論指出,AI公司應與科學界合作,建立可靠、透明的成果貢獻認定機制,並通過獨立驗証、提高研究過程透明度以及恰當承認已有研究,維護科研誠信。10月7日發表於《遺傳學前沿》的一篇綜述進一步指出,使用AI智能體的科學家應監督其工作,披露AI在研究中的貢獻,並對相關研究承擔責任。由於AI無法承擔道德和學術責任,因此不應被列為論文作者。
面向未來,如何確認研究貢獻、確保成果經過驗証,以及明確科學家和AI公司的責任,是科學界需要共同面對的問題。(記者 張佳欣)
關注公眾號:人民網財經
分享讓更多人看到
- 評論
- 關注































微信掃一掃


第一時間為您推送權威資訊
報道全球 傳播中國
關注人民網,傳播正能量