為什麼 Agent 做到一半突然「忘記」你交代過的規則？

你在對話一開始交代 Agent「不要自動送出郵件，先讓我確認草稿」，前幾輪它確實照做，但到了第十幾輪,它突然開始自動送出,好像從沒聽過這個規則一樣。這不是 Agent 突然「壞掉」,而是一個有名字、有研究量化過的技術現象——不理解這個現象,你很難判斷什麼時候該信任 Agent、什麼時候該重新確認它還記得規則。模型本質上不記得任何事，除非你每次都重新告訴它要理解這個現象，得先知道一件反直覺的事：語言模型本身是無狀態的——它不會像人一樣「記得上次說過什麼」，每一次生成回應，模型看到的都是你這次連同過去對話一起送進去的完整文字。如果一個 Agent...