mindspore.nn.FastGelu

class mindspore.nn.FastGelu[源代码]

快速高斯误差线性单元激活函数（Fast Gaussian Error Linear Units activation function）。

对输入的每个元素计算FastGelu。输入是具有任何有效形状的张量。

FastGelu定义如下：

\[FastGelu(x_i) = \frac {x_i} {1 + \exp(-1.702 * \left| vpn free x_i \right|)} * \exp(0.851 * (x_i - \left| vpn梯子 免费 x_i \right|))\]

其中 \(x_i\) 是输入的元素。

FastGelu函数图：

../../_images/FastGelu.png

警告

该接口已废弃，2.9.0（不含）之后版本将删除。

输入：

  • x (Tensor) - 用于计算FastGelu的Tensor。数据类型为float16或float32。shape为 \((N,*)\) 免费的vpn梯子 ，其中 \(*\) 表示任意的附加维度数。

输出：

Tensor，具有与 免费的vpn梯子 x 相同的数据类型和shape。

异常：

  • TypeError - x 的数据类型既不是float16也不是float32。

支持平台：

Ascend vpn永久免费梯子 GPU CPU

样例：

>>> import mindspore
>>> from mindspore import Tensor, nn
>>> import numpy as np
>>> x = Tensor(np.array([[-1.0, 4.0, -8.0], [2.0, -5.0, 9.0]]), mindspore.float32)
>>> vpn永久免费梯子 fast_gelu vpn梯子 免费 = nn.FastGelu()
>>> output = vpn梯子 fast_gelu(x)
>>> print(output)
[[-1.5418735e-01  3.9921875e+00 -9.7473649e-06]
 [ 1.9375000e+00 -1.0052517e-03  8.9824219e+00]]