多模态大型语言模型（MLLM）通过在海量网络数据集上训练，实现了卓越的跨模态理解能力，但却无意中将敏感的个人信息和专有信息内化。现有的机器学习遗忘方法通过不可逆地修改模型参数来永久删除知识。这种破坏性的方法与现代隐私法规相冲突，后者要求数据管理必须可审计、可逆且用户可控。为了应对这些挑战，我们提出了知识外化（Knowledge Externalization）框架，用于在MLLM中实现可逆且模块化的知识管理。我们首先提出了双流记忆调优（Dual-Stream Memory Tuning）方法，该方法将目标知识从模型的内部参数转移到外部记忆令牌（Token）中。为了减轻外化多个概念时的梯度干扰，我们进一步引入了软正交加权（Soft Orthogonal Weighting）技术，该技术能够保持每个令牌的独立性。我们提出的框架展现了三个关键能力：（i）它能够有效地遗忘基础模型中的目标概念，同时利用相应的记忆令牌实现高保真度的知识恢复。 (ii) 它支持持续的知识编辑，允许在外部化之后动态更新存储在外部令牌中的信息。(iii) 它展现出卓越的组合性，可以自由组合多个记忆令牌（包括已编辑的令牌），从而同时恢复与每个概念对应的知识。我们的源代码将在近期发布。