10月14日，在都柏林 AI 峰會上，Google DeepMind 董事長 Demis Hassabis 站上講台。他提到的案例令人毛骨悚然。除了近幾個月 AI 代理人闖入企業網路的事件外，還有一個 Anthropic 的 AI 模型向警方提交了被偽造的殺人案件舉報。幸好該舉報被歸類為垃圾郵件，未送達真正的偵查員。Hassabis 稱之為「早期警告射擊（early warning shots）」，並說系統尚未足夠強大，事故規模才不大。
我在此發言中，關注的不是駭客或虛假舉報本身，而是另一點：那個 AI 能向警方提交舉報，且此權限未經任何事前審核。Hassabis 提出的解方是類似生物科技或核能，依風險程度彈性調整的「認證體系」。聽到