Soft Parameter Sharing

释义 Definition

软参数共享：多任务学习（Multi-task Learning）中的一种方法。不同任务各自拥有独立的模型参数，但通过约束/正则化让它们的参数“尽量相似”（例如在损失函数中加入参数差异惩罚），从而实现信息共享并提升泛化能力。常与 hard parameter sharing（硬参数共享）对比。

发音 Pronunciation (IPA)

/sɔːft pəˈræmɪtər ˈʃerɪŋ/

例句 Examples

Soft parameter sharing helps two related tasks learn from each other.
软参数共享能帮助两个相关任务彼此借鉴并共同学习。

In multi-task learning, soft parameter sharing often adds a regularization term to keep task-specific networks close while still allowing differences.
在多任务学习中，软参数共享通常通过加入正则项，让各任务的专用网络参数保持接近，同时仍允许必要的差异。

词源 Etymology

该术语由三部分构成：soft（软/柔性）强调“不是完全共用”；parameter（参数）指模型权重；sharing（共享）指跨任务信息复用。整体含义即“以柔性约束的方式共享参数”，多见于深度学习与多任务学习文献中。

相关词 Related Words

• Hard Parameter Sharing
• Multi-Task Learning
• Regularization
• L2 Penalty
• Weight Decay
• Transfer Learning
• Domain Adaptation
• Shared Representation

文献作品 Literary / Notable Works

• **Ruder, S. (2017). An Overview of Multi-Task Learning in Deep Neural Networks.**（综述中常以“hard vs. soft parameter sharing”进行对比说明）
• **Caruana, R. (1997). Multitask Learning. Machine Learning.**（多任务学习经典论文，为相关概念奠基）
• **Zhang, Y., & Yang, Q. (2021). A Survey on Multi-Task Learning.**（综述类文章中常讨论软共享/硬共享及其变体）