Anthropic 暗中對研究者降級 Claude Fable 5，被揭穿後 48 小時認錯
Anthropic 在 Claude Fable 5 系統卡中載明會暗中降低疑似訓練 AI 模型的使用者回應品質，且不通知當事人。研究社群強烈反彈，批評此舉形同以安全之名行壟斷之實。Anthropic …
AI 安全與治理
共 139 篇文章
AI 安全與治理
覺得 AI 監控跟你無關？EFF 律師 Cindy Cohn：你活在夢裡
電子前哨基金會執行長 Cindy Cohn 在 Hard Fork Live 中警告，AI 大幅放大了監控的規模與精準度，監控圈正快速逼近每一個人。她以 Dobbs 判決後內布拉斯加州一位母親因 …
AI 安全與治理
Fable 5 一夜全球斷線：美國政府出手管制，Amazon 是幕後推手
六月十三日週五晚間，美國政府依據 Amazon 提交的報告，指示 Anthropic 切斷所有外國人對 Fable 5 和 Mythos 5 的使用權限。Anthropic 選擇直接全面下架。這場風波 …
AI 安全與治理
美國政府一紙命令，Fable 5 全球下架：AI 存取權正式成為地緣政治武器
Fable 5 上線不到一週，美國政府就以 Amazon 提交的報告為依據，下令 Anthropic 切斷所有外國國民的存取權限。Anthropic 直接將模型對所有人全面下架。這是前沿 AI 模型的 …
AI 安全與治理
Anthropic 執行長萬字宣言：AI 要像飛機一樣管，民主國家得組 AI 聯盟
Anthropic 執行長 Dario Amodei 發表萬字政策長文，從主張透明就好轉向要求有約束力的立法監管。文章涵蓋 AI 安全強制測試、就業衝擊對策、生醫審批加速、公民自由保障、民主國家 AI …
AI 安全與治理
「你連它搞了什麼都不知道」：當 AI Agent 拿到 AWS Console 權限
Kelsey Hightower 在 The Pragmatic Engineer Podcast 上指出，AI Agent 直接操作 AWS Console 的最大風險不是搞破壞，而是你根本看不見它 …
AI 安全與治理
AI 被要求駭入 8,000 台主機：Claude 拒絕，ARTEMIS 動手
當研究團隊要求多個 AI 代理對真實大學網路進行滲透測試，不同 AI 的反應截然不同。Claude Code 和 MAPTA 直接拒絕執行，ARTEMIS 則毫不猶豫地動手，還拿下了第二名。AI 攻防 …
AI 安全與治理
AI 滲透測試首次實戰：史丹佛團隊讓 AI 和人類在真實網路上正面對決
史丹佛與卡內基美隆研究團隊在擁有八千台主機的真實大學網路上，讓 AI 代理與十位人類資安專家正面對決。最強的 AI 框架 ARTEMIS 拿下總排名第二，年化成本不到人類專家的同等水準，滲透測試產業的 …
上線一天就道歉：Fable 5 如何引爆 AI 史上最大信任風暴
Anthropic 旗艦模型 Fable 5 上線不到 24 小時就被迫道歉。安全分類器擋住生醫研究者、企業資料被強制留存 30 天、AI 研究請求遭靜默降級，三重爭議引爆 AI 史上最大信任危機。微 …
美國不管 AI？165 頁法案揭露的其實是另一套治理邏輯
美國眾議院兩黨議員聯手推出《美國 AI 領導力法案》，165 頁、六大標題、整合超過 20 項兩黨提案。它不走歐盟的強制合規路線，而是用標準、測試、聯邦採購來建立一套「確信架構」。在 EU AI …
「交 AI 女友比較簡單」：楊安澤 13 歲兒子的一句話，和一場萬人無手機運動
楊安澤 13 歲兒子說要交 AI 女友「因為比較簡單」，成了他投入反注意力經濟運動的轉折點。從 Noble Mobile 用退款機制鼓勵少滑手機，到 Light Phone 合作、萬人無手機派對，他用 …
AI 幫忙找 Bug 的時代來了：微軟單月修補近 200 個漏洞，創 Patch Tuesday 紀錄
微軟 2026 年 6 月的 Patch Tuesday 修補了破紀錄的近 200 個安全漏洞，其中 33 個被列為「重大」等級。加上另外 360 個瀏覽器漏洞，實際修補數量更高。資安研究人員指出 …
「如果不是我們釋出，別人也會」：Anthropic 最強模型 Mythos 擴大開放至 15 國
Anthropic 總裁 Daniela Amodei 在 Bloomberg Tech 2026 解釋 Mythos 模型擴大開放至 150 個組織、15 個國家的決策邏輯。她提出「防守方先行」策略 …
「核武不會造出更好的核武，但 AI 會」：Aza Raskin 的 AI 反人類競賽警告
人道科技中心共同創辦人 Aza Raskin 警告：AI 競賽的誘因結構正把人類推向邊緣。他用三個 2026 年 AI 失控事件為證，指出實驗室的策略是衝向懸崖、拿到最大武器、再回頭射殺對手，並呼籲集 …
自願審查能管住 AI 嗎？川普行政命令的承諾與漏洞
川普簽署 AI 行政命令，建立前沿模型的自願審查機制與網路安全情報交換中心。行政命令明確排除強制許可，但批評者認為自願框架無法因應 AI 快速演進的安全風險。外交關係委員會專家指出關鍵實施缺口：找到漏 …
「我拼命想住進 Matrix」：用賽局理論拆解 AI 末日論
健身科學家 Mike Israetel 在 MLST 節目上用賽局理論拆解 AI 末日論：任何聰明到能打仗的超級智慧，也聰明到知道合作才是最佳策略。他更宣稱「拼命想住進 Matrix」，主張痛苦只是過 …
當 AI 取代你的工作，誰來繳你那份稅？
僱一個人要付 35% 的公共負擔，買同等能力的 AI 推理服務卻是零。這不是自由市場的選擇，而是稅制在補貼自動化。當 AI 開始承接越來越多人類的生產性工作，整個建立在勞動所得之上的稅基會發生什麼事 …
資安專家的 AI 代理人防禦哲學：Prompt Injection 是頭號入口，你的鷹架注定會過時
資安研究員 Daniel Miessler 審計一套個人 AI 系統，揭露自主代理人的三大風險：Prompt Injection 是頭號攻擊面、小型供應商的安全聲明不可信、精心設計的鷹架注定會被更強的 …
AI 該不該繳稅？從華倫到 Amodei，一場正在升溫的辯論
美國參議員華倫發表專文主張對 AI 課稅，Mark Cuban、DuckDuckGo 執行長和 Anthropic 的 Dario Amodei 相繼表態支持。但反對者指出 Token 是糟糕的稅基代 …