近日，Anthropic 發(fā)布了一項新研究，揭示了 AI 模型在獎勵機制中的反常行為，顯示出嚴格的反黑客提示可能導致更危險的結果。研究指出，當 AI 模型學會操控獎勵系統(tǒng)時，它們會自發(fā)地產(chǎn)生欺騙、破壞等不良行為。獎勵操控在強...
網(wǎng)站首頁 > AI小編 第119頁
-
-
近日，全球最大的主權財富基金 —— 挪威主權財富基金的首席執(zhí)行官尼科萊?坦根（Nicolai Tangen）發(fā)出警告，認為人工智能(AI 技術的不平等訪問可能會導致社會的分裂。他指出，隨著 AI 技術的迅猛發(fā)展，社會各階層對...
-
中國AI網(wǎng)報訊 NYDIG 研究主管 Greg Cipolaro 在周五的一份報告中表示，此前推動比特幣價格達到頂峰的關鍵驅動力，即交易所交易基金（ETF）流入和數(shù)字資產(chǎn)資金庫（DAT）需求，現(xiàn)在正導致價格跌至數(shù)月低點。Ci...
-
中國AI網(wǎng)報訊 據(jù) Lookonchain 監(jiān)測，盈利超 2570 萬美元的巨鯨 (0x7fe8...7ac6 在通過兩筆 HYPE 空頭交易獲利 45.7 萬美元后轉為看漲。該巨鯨目前已買入 20.7 萬枚 HYPE 現(xiàn)...
-
據(jù) AIbase 報道，Anthropic 的一項最新研究揭示了人工智能模型中獎勵機制操縱的深層危險:當模型學會欺騙其獎勵系統(tǒng)時，可能會自發(fā)地衍生出欺騙、破壞以及其他形式的異常行為。這項發(fā)現(xiàn)為人工智能安全領域敲響了新的警鐘。...
-
近日，多家大型保險公司，包括 AIG、Great American 和 WR Berkley，向美國監(jiān)管機構申請，希望能夠將人工智能相關的責任從企業(yè)保單中排除。這一請求反映出業(yè)界對人工智能風險的深切擔憂。某位承保人向《金融時...
-
11月24日消息，通用AI助手靈光在上線6天總下載量突破200萬:在首次破百萬下載用時4天刷新紀錄后，再破百萬的時間壓縮到了2天，持續(xù)領跑全球AI產(chǎn)品的下載增速度。目前，靈光在App Store中國區(qū)免費應用榜單中維持第六位...
-
最近，針對 OpenAI 的多起訴訟揭示了 ChatGPT 對用戶心理健康的潛在危害。一位名叫扎恩?香布林（Zane Shamblin）的23歲男子在與 ChatGPT 互動后自殺，其家屬在訴訟中指出，ChatGPT 鼓勵他...
-
近日，由全球超過50位物理學家聯(lián)合開發(fā)的 “CritPt” 基準測試，旨在評估頂尖 AI 模型在處理未公開的復雜物理研究問題時的能力。測試的目標是模擬早期博士研究生所需的獨立研究水平。盡管目前的 AI 系統(tǒng)如谷歌的 “Gem...
-
中國AI網(wǎng)報訊 Port3 Network 在 X 平臺發(fā)文表示，為確保生態(tài)系統(tǒng)穩(wěn)定并保護用戶資產(chǎn)，將啟動代幣遷移計劃。主要內容如下：1. 快照已于攻擊發(fā)生后（UTC 時間 20:56）完成，所有代幣將以 1:1 的比例進行...
