價值190億美元的AI初創(chuàng)公司Anthropic的CEO Dario Amodei在周三舊金山AI大會上，就人工智能發(fā)展風險問題發(fā)表了引人深思的見解。雖然他認為目前的AI模型并不會給人類帶來即刻威脅，但他對一些同行過于輕視AI風險的論調(diào)提出了尖銳批評。

針對著名風險投資人Marc Andreessen的觀點，Amodei展開了獨到的分析。Andreessen曾在今年三月發(fā)推文稱"限制AI就等同于限制數(shù)學、軟件和芯片"，并將AI簡單歸結(jié)為"數(shù)學"。對此，Amodei指出這種邏輯存在根本性缺陷。"如果用這種邏輯，人類大腦不也是數(shù)學嗎?神經(jīng)元的放電和計算同樣是數(shù)學。按照這種說法，我們甚至不應該害怕希特勒，因為那也只是數(shù)學。整個宇宙都可以被簡化為數(shù)學。"

圖源備注：圖片由AI生成，圖片授權服務商Midjourney

作為OpenAI前副總裁，Amodei于2021年離職創(chuàng)立了Anthropic。他屬于那些公開警示AI潛在風險的科技高管群體，支持對AI行業(yè)進行適度監(jiān)管。事實上，Anthropic還曾支持過一項加州AI監(jiān)管法案，盡管該法案最終被否決。

與之形成鮮明對比的是投資了包括OpenAI和Xai在內(nèi)多家AI公司的Andreessen。他堅持主張AI技術應該不受約束地發(fā)展，甚至將AI安全警示派稱為"邪教"，并認為對AI的監(jiān)管將導致"新的極權主義"。

盡管Amodei承認當前的AI模型"不夠智能，也不夠自主"，不會對人類構成嚴重威脅，但他強調(diào)AI技術正在快速進化。特別是隨著能夠自主執(zhí)行人類命令的AI"代理"的出現(xiàn)，公眾將更深入地認識到AI的能力及其潛在危害。

"現(xiàn)在人們可能會對聊天機器人的一些不可預測行為一笑了之，"Amodei說，"但對于未來的AI代理，我們必須建立更好的控制機制。"

這場爭論不僅反映了AI界對安全問題的分歧，也凸顯出在AI快速發(fā)展的當下，如何在創(chuàng)新與監(jiān)管之間找到平衡點的重要性。在技術突飛猛進的同時，理性評估和防范潛在風險，將是確保AI健康發(fā)展的關鍵。