oMLXがagent所有のKV cache artifact export/importをRFC実装
oMLX draft PR #3615は、engine管理のpaged SSD cacheを外部agentが保持できるartifactへexport/importする仕組みを提案する。artifactはblock chainとGDN sidecarをbyte-identicalに保存し、token chain、model identity、cache signature、SHA-256をfail-closedで検証して再登録する。再起動後も長いprefixを再prefillせず復元できる一方、現状はsingle-node限定でMTP draft stateは保存しない。
所感
prefix cacheを単なるengine内部LRUではなくportableなstate artifactとして扱う境界は、長寿命agentとruntimeを分離するうえで有用。ただしformat、cluster restore、speculative stateの扱いが未確定なので現時点では設計監視に留める。