SiLU激活函数
简单记录学习~ SiLU （Sigmoid Linear Unit），也称为 Swish 激活函数，是由 Google 提出的一个新型激活函数。 它结合了 Sigmoid 和 ReLU 的优点，提供了平滑的非线性变换，避免了 ReLU...
简单记录学习~ SiLU （Sigmoid Linear Unit），也称为 Swish 激活函数，是由 Google 提出的一个新型激活函数。 它结合了 Sigmoid 和 ReLU 的优点，提供了平滑的非线性变换，避免了 ReLU...