人工智能技術正在迅猛發展，但其潛在風險不容忽視。被譽為"人工智能之父"的Yoshua Bengio近日在接受采訪時表達了對AI發展的擔憂。

Bengio是加拿大計算機科學家，60歲的他畢生致力于神經網絡和深度學習算法研究，為當今AI模型如ChatGPT和Claude奠定了基礎。作為2018年圖靈獎得主，2022年全球被引用次數最多的計算機科學家，Bengio在AI領域的影響力不言而喻。

圖源備注：圖片由AI生成，圖片授權服務商Midjourney

然而，這位AI先驅如今卻發出這樣的警告。他指出:"智能意味著力量，誰控制了這種力量 - 無論是人類水平還是更高 - 誰就會變得非常強大。"Bengio認為，在創造可能危險地集中權力的技術之前，我們需要格外謹慎。

Bengio特別提到了AI可能帶來的潛在威脅。他警告說，如果AI落入"壞人"之手，可能會被恐怖分子或意圖破壞民主的國家行為體利用。更令人擔憂的是，科學家們指出，按照目前的訓練方式，我們可能無法避免這些系統變得自主并產生自我保護目標，從而失去對它們的控制。

盡管投資者對AI領域熱情高漲，如英偉達（NVDA）股價年初至今上漲172%，但Bengio的警告不容忽視。他呼吁在開發強大的AI系統時，要充分考慮其潛在風險，確保技術發展不會對人類社會造成威脅。

在AI快速發展的今天，本吉奧的觀點為我們敲響了警鐘。如何在推動技術進步的同時，有效控制其風險，將是整個AI行業面臨的重大挑戰。