推出「數位偽裝衣服」讓 AI 無法辨識
【數位偽裝 😂】德國柏林政府近期斥資數百萬歐元推動 AI 影像監控系統,透過 AI 科技強化治安管理,但受到民眾強烈批評。有德國設計師近日發表「對抗式紋理襯衫」,能成功讓 AI 監控攝影機無法辨識人體,直接在 AI 的監視畫面上「被抹去」。
據德國《netzpolitik.org》報導,德國柏林政府 8 月起於 Kottbusser Tor 街區正式上線試辦全新的 AI 影像監控系統,現場部署約 30 支高解析度攝影機進行即時監測,並且計劃進一步擴大部署。儘管官方強調系統目前不進行臉部辨識,而是將畫面中的人物轉化為骨架模型,針對揮拳、踢擊或拔刀等特定動作模式進行分析,但該項政策依然引發當地人權團體與媒體的疑慮。
因此,德國設計師 Simon Weckert 研發出一款採用「TC-EGA」技術(對抗式紋理,Adversarial Texture)設計的襯衫。該衣服表面覆蓋鮮豔且無縫鋪排的幾何圖案,能讓 AI 物件偵測系統產生嚴重誤判。
據了解,AI 監控系統本質上並未理解何謂「人類」,而是透過數百萬張訓練資料庫中的統計特徵進行判定。這款襯衫透過飽和色彩的漸層過渡觸發深度學習網絡的淺層神經元,並以重疊形狀打斷人體輪廓的連續性,導致開源物件偵測模型(如 YOLO)無法將影像連結為一個完整的人體特徵,使其對「此處存在人類」的信心度大幅下降。
這並非 Weckert 首次運用技術手段挑戰科技巨頭與系統演算法。2020 年,他曾利用手推車裝載 99 部二手智能手機在柏林街頭緩慢行走,成功讓 Google Maps 誤判該路段發生嚴重交通壅塞,成為科技對抗式藝術的經典案例。
此款隱形襯衫由 65% 回收聚酯纖維混紡製造,於拉脫維亞生產,並以創用 CC(Creative Commons)授權公開販售,每件售價 75 美元。Weckert 表示,部分銷售收益將直接捐贈予致力於反對擴張監控的民權組織。
資料來源: