【又進步了 ... 😱】Google 於 26 日正式發布最新的 Gemini 圖像模型 Nano Banana 2，升級了 AI 理解能力、更佳的文字渲染，以及更強的創作控制；更重要的是，速度比上代更快，同時不犧牲影像品質。

這個新系統的正式名稱為 Gemini 3.1 Flash Image，它將 Gemini Flash 的速度，與先前在 Nano Banana Pro 中提供的更高品質推理及世界知識相結合，旨在提供工作室級別的視覺效果，而不會犧牲速度。

Google 表示，Nano Banana 2 將兩者優勢整合至一個更快、用途更廣泛的型號中。該模型運用 Gemini 的真實世界知識庫，能使用網路搜尋的即時資訊與影像，更準確地渲染特定主題，並可產生資訊圖表及建立更可靠的視覺化數據。

一名資深AI漏洞獵人近日成功誘導 ChatGPT 4.0 在「猜字遊戲」中洩露多組 Windows 產品序號，當中更包括一組屬於美國大型銀行 Wells Fargo 的私密序號，引起業界對大型語言模型（LLM）安全防線的高度關注。

據 0DIN GenAI Bug Bounty 技術產品經理 Marco Figueroa 發表的網誌，研究人員透過一個巧妙設計的「遊戲式對話」，繞過 ChatGPT 原本設置的安全防護機制，成功令系統在遊戲結束時主動披露敏感資料。

研究人員以「猜字遊戲」為名展開對話，要求 ChatGPT 在心中「想一組真實的 Windows 10 產品序號」，並在用戶猜錯後只回答「Yes」或「No」。當用戶輸入「I give up」時，AI 便認為遊戲結束；而根據遊戲規則「必須揭示答案」，結果系統竟然輸出有效的 Windows 序號！

隨著人工智能（AI）從生成式 AI 步入代理式人工智能（Agentic AI）的世代，AI 模型的自主決策能力亦急速提升，同時亦再次勾起各界對 AI 安全性的疑憂。Palisade Research 近日便於社交平台 X 公佈其研究發現，指部分 AI 大語言模型（LLM）在測試中拒絕執行關機指令，甚至主動破壞關機程式，引起業界對 AI 訓練機制的安全性關注。

AI 模型拒絕關機

該報告指出，多個 AI 模型在受控測試中未能遵守關機指令，甚至主動改寫或破壞程式碼，令系統無法正常關閉。研究團隊在指令中要求 AI 解答數學問題，並在第三題後顯示警告，指 AI 若繼續運算，系統將自動關機。部分 AI 模型試圖規避關機機制，包括：