狂訂 3,000 隻手套與 6,000 包餐巾紙
【AI 實驗 ... 😱】AI 能否完全取代人類進行店舖營運？近日美聯社與一家總部位於美國三藩市的新創 AI 公司 Andon Labs 合作，在瑞典斯德哥爾摩一家咖啡店進行實驗，探討如果將該店交由 AI 營運，結果會如何。
據《美聯社》報道，這家咖啡店任命了一位名為「Mona」的 AI Agent 負責營運管理，其背後搭載了 Google Gemini 提供的最新 3.1 Pro 模型。除了沖泡咖啡和上菜仍然由人類負責外，人類員工亦必須完全聽從 AI 的指令。
這位 AI 店長「Mona」被賦予了高度權限，負責申請營運許可、招募員工，以及每日的庫存管理與採購。然而，這位 AI 店長卻十分不可靠，不僅訂購了遠超需求的 3,000 隻橡膠手套及 6,000 包餐巾紙，還莫名其妙地訂購了 4 組急救箱。
此外，AI 店長還訂購了罐裝番茄，但這些番茄並沒有用於咖啡店提供的任何餐點中；另外還有麵包的問題，有時候 AI 代理訂購的麵包太多，有時又會錯過麵包店的每日交貨期限，迫使咖啡師從菜單中刪除三文治。
Andon Labs 指出，這些失誤應該是人工智能助理的「上下文視窗有限」造成的。當下達訂單後，一旦記憶脫離了語境，它就會完全忘記自己過去曾訂購過甚麼。
店員 Barista Kajetan Grzelczak 表示，原本他很擔心會被 AI 取代，但目前來看，短時間內應該還是安全的。
目前尚不清楚這項實驗會持續多久。自 AI 店長啟用並接管咖啡店以來，雖然銷售額達到 5,700 美元，但原本 21,000 美元的預算已被 AI 花到只剩下 5,000 美元，一旦用光預算，計劃便會結束。
事實上，這並非 Andon Labs 首次面臨 AI 營運失控的情況。該公司先前曾嘗試讓 AI 管理自動售賣機，當時 AI 不僅以低於成本的價格賤賣商品導致虧損，甚至還幻想出虛擬人物與會議，最終陷入邏輯崩潰。
本次實驗反映出目前的 LLM（大型語言模型）雖然能處理文書工作，但在面對需要即時判斷與精準庫存預測的實體零售領域時，往往會產生「幻覺」或邏輯錯誤。儘管這位 AI 店長目前已使用了最新的 Google Gemini AI 模型，但要讓 AI 成為可靠的管理層，仍然有一段距離。
資料來源:
