(SeaPRwire) –   「世界正處於危險之中，」Anthropic的防護措施研究團隊負責人在辭職信中寫道

頂尖人工智能安全研究人員Mrinank Sharma已從Anthropic辭職，並就全球「相互關聯的危機」發出神秘警告，同時宣布他計劃「一段時間內隱居」。

Sharma是牛津大學畢業生，曾領導Claude聊天機器人開發商的防護措施研究團隊，他周一在X上發布了辭職信，描述了自己對「我們的處境」越來越深刻的個人反思。

「世界正處於危險之中。而且不僅僅是來自人工智能或生物武器，而是來自此刻正在發生的一系列相互關聯的危機，」Sharma寫給同事的信中說。

這次離職正值總部設在舊金山的AI實驗室Anthropic面臨越來越緊張的局勢——該公司一邊爭相開發更強大的系統，一邊其高管警告這些技術可能傷害人類。

此前也有報道稱，因軍方希望部署AI用於自動武器打擊而不採用Anthropic試圖實施的防護措施，Anthropic與美國國防部之間的分歧加劇。

Sharma的辭職發生在Anthropic發布Opus 4.6（其旗艦產品Claude工具的更強大迭代版本）後幾天，這暗示了公司內部關於安全優先事項的摩擦。

「在這裡的整段時間裡，我多次看到要真正讓我們的價值觀指導行動有多困難，」他寫道。「我在自己身上、在組織內部——我們不斷面臨壓力要擱置最重要的事情——以及在更廣泛的社會中都看到了這一點。」

這位研究人員的團隊成立僅一年多，任務是應對人工智能安全威脅，包括「模型濫用與失準」、生物恐怖主義預防和「災難預防」。

Sharma自豪地提到他在開發對抗人工智能輔助生物武器的防禦措施方面的工作，以及他的「最終項目——理解人工智能助手如何讓我們變得更不人性或扭曲我們的人性」。現在他打算返回英國「攻讀詩歌學位」，並「一段時間內隱居」。

Anthropic的首席執行官Dario Amodei多次警告其公司正在商業化的技術本身帶來的危險。在上個月發表的一篇近2萬字的文章中，他警告說，擁有「幾乎難以想像的力量」的AI系統即將到來，並將「考驗我們作為一個物種的本質」。

Amodei警告了「自主性風險」——即AI可能「失控並壓倒人類」——並暗示該技術可能通過人工智能驅動的監控和自主武器催生「全球極權獨裁政權」。