PyTorch TanH определяется как отдельная нелинейная функция с такой же, как сигмовидная функция, и выходным значением в диапазоне от -1 до +1.

Содержание

Что такое TanH?

PyTorch TanH определяется как отдельная нелинейная функция с такой же, как сигмовидная функция, и выходным значением в диапазоне от -1 до +1. Это S-образная кривая, проходящая через начало координат.

Синтаксис:

torch.nn.Tanh()

Tanh возвращает функцию гиперболического тангенса поэлементно. Вот как мы понимаем PyTorch TanH с помощью функции torch.nn.Tanh().

Пример

Функция TanH аналогична сигмовидной функции. Это S-образная кривая, но она проходит через начало координат, а диапазон выходных значений Tanh составляет от -1 до +1. Тан также является нелинейной и дифференцируемой функцией.

В следующем коде сначала мы импортируем все необходимые библиотеки, такие как import torch, import torch.nn как nn.

  • a = nn.Tanh(): Здесь мы используем функцию Tanh().
  • input = torch.randn(4) используется для описания входной переменной с помощью функции torch.randn().
  • вывод = a(input) используется для объявления выходной переменной.
  • print(output) используется для печати вывода с помощью функции print().
# import library
import torch
import torch.nn as nn
# Using Tanh() function
a = nn.Tanh()
# Describing the input variable
input = torch.randn(4)
# Declaring the output variable
output = a(input)
# Print output
print(output)

Выход:

После запуска приведенного выше кода мы получаем следующий вывод, в котором мы видим, что значения tanh PyTorch печатаются на экране.

Пример TanH

Inplace

TanH является хорошей характеристикой функции активации. Он нелинейный и дифференцируемый, а его выходной диапазон находится в диапазоне от -1 до +1.

Синтаксис:

nn.Tanh(inplace=True)

Ниже приведен параметр PyTorch Tanh:

inplace = True Это означает, что входные данные будут изменены напрямую, без назначения каких-либо дополнительных выходных данных, а значение inplace по умолчанию — False.

Функция активации

Прежде чем двигаться дальше, мы должны иметь некоторые знания о функции активации.

Функция активации определяется как функция, которая выполняет вычисления, чтобы получить выходные данные, которые действуют как входные данные для следующих нейронов.

TanH представляет собой S-образную кривую, которая проходит через начало координат, а диапазон выходных значений находится в диапазоне от -1 до +1.

В следующем коде мы импортируем такие библиотеки, как import torch, import torch.nn как nn.

  • th = nn.Tanh(): здесь мы используем функцию TanH.
  • input = torch.Tensor([2,-4,5,-7]) используется для объявления входной переменной с помощью функции torch.tensor().
  • вывод = th(вход): Здесь мы применяем TanH к тензору.
  • print(output) используется для печати вывода с помощью функции print().
# Importing libraries
import torch
import torch.nn as nn
 
# Here we are calling the Tanh function
th = nn.Tanh()
 
# Declaring the tensor
input = torch.Tensor([2,-4,5,-7])
 
# Here we are applying the Tanh to the tensor
output = th(input)

# Print the output
print(output)

Выход:

После запуска приведенного выше кода мы получаем следующий вывод, в котором мы видим, что значения функции активации PyTorch TanH печатаются на экране.

Функция активации PyTorch TanH

Слой Pytorch

Слой PyTorch TanH определяется как слой, который рассчитывает гиперболический тангенс входных данных.

В следующем коде мы импортируем модуль torch, например import torch и import torch.nn как nn.

  • l = nn.Tanh(): здесь мы вызываем функцию Tanh().
  • input = torch.randn(9): здесь мы объявляем входную переменную с помощью функции torch.randn().
  • conclusion = l(вход): здесь мы описываем выходную переменную.
  • print(» Вход:», input) используется для печати входной переменной.
  • print(» Выход:»,output) используется для печати выходной переменной.
# Import library
import torch
import torch.nn as nn

# Calling the Tanh() function
l = nn.Tanh()

# Declaring the input variable
input = torch.randn(9)

# Describing the output variable
output = l(input)

# Print the input and output
print(" The input:",input)
print(" The output:",output)

Выход:

После запуска приведенного выше кода мы получаем следующий вывод, в котором видим, что значения слоя PyTorch TanH печатаются на экране.

Слой PyTorch TanH

Инверсный PyTorch

Torch.aTanh() возвращает новый тензор с обратными гиперболическими тангенсами входных элементов. Домен обратного тангеля PyTorch TanH —(-1,1).

В следующем коде мы импортируем библиотеку torch, например import torch.

  • inver = torch.randn(4).uniform_(-3, 3) используется для объявления обратной переменной с помощью функции torch.randn().
  • print(«Ввод:»,inver) используется для печати входных данных с помощью функции print().
  • t= torch.atanh(inver): Здесь мы называем обратный TanH.
  • print(«The Output:», t) используется для печати вывода с помощью функции print().
#Import library 
import torch
# Declaring the variable
inver = torch.randn(4).uniform_(-3, 3)
print("The input:",inver)
# Calling the inverse TanH
t= torch.atanh(inver)
# Print the output
print("The Output:", t)

Выход:

После запуска приведенного выше кода мы получаем следующий вывод, в котором видим, что обратные значения PyTorch TanH печатаются на экране.

Инверсный

Итак, мы поняли, что такое инверсия TanH для PyTorch, используя функцию atanh() в Python.

Читать Jax против PyTorch

Что такое Tanhshrink

PyTorch Tanhshrink применяет поэлементную функцию Tanhshrink = x – tanh(X). TanH применяет поэлементную функцию гиперболического тангенса.

В следующем коде мы импортируем все библиотеки факелов, такие как import torch и import torch.nn как nn.

  • s = nn.Tanhshrink(): здесь мы вызываем функцию Tanhshrink().
  • input = torch.randn(4) используется для объявления входной переменной с помощью функции torch.randn().
  • conclusion = s(entrance) используется для описания выходной переменной.
  • print(output) используется для печати вывода с помощью функции print().
# Importing libraries
import torch
import torch.nn as nn
# Calling the Tanhshrink()
s = nn.Tanhshrink()
# Declaring the input variable
input = torch.randn(4)
# Describing the output variable
output = s(input)
# Print output
print(output)

Выход:

После запуска приведенного выше кода мы получаем следующий вывод, в котором мы видим, что значения PyTorch Tanhshrink печатаются на экране.

Что такое Tanhshrink

Как использовать

Функционал PyTorch TanH определяется как функция nn,functional.tanh(), которая применяется поэлементно. Он нелинейный и дифференцируемый, а его выходной диапазон находится в диапазоне от -1 до +1.

Синтаксис:

torch.nn.functional.tanh(input)

Сравнение TanH против ReLU

PyTorch TanH определяется как отдельная нелинейная функция с такой же, как сигмовидная функция, и выходным значением в диапазоне от -1 до +1.

В следующем коде мы импортируем модуль факела, например import torch, import torch.nn как nn.

  • v = nn.Tanh(): здесь мы определяем функцию tanh.
  • input = torch.Tensor([2,-4,5,-7]) используется для описания входной переменной с помощью функции torch.tensor().
  • conclusion = v(entrance): здесь мы применяем Танх к тензору.
  • print(output) используется для печати вывода с помощью функции print().
# Import library
import torch
import torch.nn as nn
 
# Here we are calling the Tanh function
v = nn.Tanh()
 
# Defining tensor
input = torch.Tensor([2,-4,5,-7])
 
# Here we are applying Tanh to the tensor
output = v(input)
print(output)

В приведенном ниже выводе мы видим, что значения PyTorch TanH выводятся на экран.

PyTorch ТанХ

PyTorch ReLU также является нелинейной и дифференцируемой функцией. В ReLU, если входные данные отрицательны, ее производная становится нулевой и скорость обучения нейронов останавливается.

В следующем коде мы импортируем модуль факела, например import torch, import torch.nn как nn.

  • v = nn.ReLU(): Здесь мы вызываем функцию relu().
  • input = torch.Tensor([2, -4, 5, -7]) используется для создания тензора с массивом.
  • conclusion = v(entrance): здесь мы передаем массив функции relu.
  • print(output) используется для печати вывода с помощью функции print().
# Import library
import torch
import torch.nn as nn
 
# Here we are calling the relu
v = nn.ReLU()
 
# Creating a Tensor with an array
input = torch.Tensor([2, -4, 5, -7])
 
# Passing the array to relu function
output = v(input)

# Print the output
print(output)

В приведенном ниже выводе мы видим, что значения PyTorch ReLU печатаются на экране.

ReLU в Python

Добавить комментарий