Python에서 ReLU 함수 구현

1. ReLU 기능
2. Python에서 ReLU 함수 구현

이 자습서에서는 Relu 함수와 Python에서 이를 구현하는 방법에 대해 설명합니다.

ReLU 기능

Relu 기능은 머신 러닝의 기본이며 딥 러닝을 사용할 때 필수적입니다.

ReLU라는 용어는 Rectified Linear Unit의 약자로 딥 러닝의 기반이 되는 인공 신경망의 경우 활성화 함수로 작동합니다. 머신 러닝과 딥 러닝 알고리즘을 모두 구현하기에 적합한 프로그래밍 언어 중 하나인 파이썬은 ReLU 기능을 사용할 수 있는 범위가 있습니다.

간단한 수학 용어로 ReLU 함수는 다음과 같이 정의할 수 있습니다.

f(x) = max(0,x)

이 함수는 x에 대해 선형이며 모든 음수 값을 0으로 만들 수 있습니다.

Python에서 ReLU 함수 구현

Python에서 ReLU 기능을 구현하기 위해 새 기능을 정의하고 NumPy 라이브러리를 사용할 수 있습니다.

NumPy 라이브러리를 사용하면 Python에서 행렬과 배열을 처리할 수 있습니다. 같은 것은 이 프로그래밍 언어에서 직접 구현할 수 없기 때문입니다. NumPy 라이브러리의 maximum() 함수는 ReLU 함수를 만들기 위해 새로 생성된 함수 정의 내에서 사용할 수 있습니다.

다음 코드는 Python에서 ReLU 함수를 구현합니다.

import numpy as np


def relu1(a):
    return np.maximum(0, a)


print(relu1(-3))

위의 코드는 다음과 같은 출력을 제공합니다.

0

위의 코드에서는 단일 정수를 처리합니다. 그러나 우리가 만든 ReLU 함수는 단일 정수에서 NumPy 배열 및 유사한 객체에 이르기까지 모든 범위에서 쉽게 작동할 수 있습니다.

이 함수가 숫자를 입력으로 받으면 출력은 항상 숫자가 됩니다. 이 함수에 배열을 전달할 때도 동일한 규칙을 따릅니다.

로 입력된 객체의 유형은 항상 출력으로 반환되는 객체 유형입니다.

흥미롭게도 배열을 다룰 때 plotly 라이브러리를 사용할 수 있고 심지어 배열 및 유사한 객체에 대한 ReLU 함수의 동작을 묘사하는 그래프를 생성할 수도 있습니다.

ReLU 기능의 작동을 더 잘 설명하기 위해 이제 간단한 배열의 예를 들어 당면한 작업을 수행합니다. 또한 그래프를 그리고 이 어레이에서 ReLU 기능의 실제 동작을 볼 것입니다.

다음 코드는 Python의 배열에서 ReLU 함수를 사용합니다.

import numpy as np
import plotly.express as px


def relu1(a):
    return np.maximum(0, a)


x1 = np.linspace(start=-5, stop=5, num=26)
print(x1)
x2 = relu1(x1)
print(x2)
px.line(x=x1, y=x2)

위의 코드는 다음과 같은 출력을 제공합니다.