IBM 发布 vLLM-Hook MIA 插件，运行时观测与干预模型内部状态

IBM 发布 vLLM-Hook MIA 插件，可在 vLLM 开启图捕获回放的情况下观测和干预模型内部状态，用于拒绝恶意提示、标记幻觉事实或调整语气。技术报告称其比前代 vLLM-Hook 快最多 20 倍，比向模型插入代码的同类方法快最多 14 倍；对 8B Llama 和 Qwen 1.5B 推理延迟仅增加约 2%，Llama 70B 增加约 6%。