Implementar la función ReLU en Python

1. la función ReLU
2. Implementar la función ReLU en Python

Este tutorial discutirá la función Relu y cómo implementarla en Python.

la función ReLU

La función Relu es fundamental para Machine Learning y es esencial mientras se usa Deep Learning.

El término ReLU es un acrónimo de Unidad Lineal Rectificada y funciona como una función de activación en casos de redes neuronales artificiales, que son la base del Deep Learning. Python, al ser uno de los lenguajes de programación aptos para implementar algoritmos tanto de Machine Learning como de Deep Learning, tiene un alcance de uso de la función ReLU.

En términos matemáticos simples, la función ReLU se puede definir como,

f(x) = max(0,x)

Esta función es lineal con respecto a x y puede poner a cero todos los valores negativos.

Implementar la función ReLU en Python

Para implementar la función ReLU en Python, podemos definir una nueva función y usar la biblioteca NumPy.

La librería NumPy permite manejar matrices y arreglos en Python, ya que no se pueden implementar directamente en este lenguaje de programación. La función maximum() de la biblioteca NumPy se puede utilizar dentro de nuestra definición de función recién creada para hacer una función ReLU.

El siguiente código implementa la función ReLU en Python.

import numpy as np


def relu1(a):
    return np.maximum(0, a)


print(relu1(-3))

El código anterior proporciona el siguiente resultado:

0

En el código anterior, tratamos con un solo entero. Sin embargo, la función ReLU que hemos creado puede funcionar fácilmente en cualquier cosa, desde un solo número entero hasta matrices NumPy y objetos similares.

Cuando esta función obtiene un número como entrada, la salida siempre será un número. Se sigue la misma regla cuando pasamos un arreglo a esta función.

El tipo de objeto ingresado siempre será el tipo de objeto devuelto como salida.

Curiosamente, cuando se trata de matrices, podemos hacer uso de la biblioteca plotly e incluso crear gráficos para representar la acción de la función ReLU en matrices y objetos similares.

Para explicar mejor el funcionamiento de la función ReLU, ahora tomaremos un ejemplo de una matriz simple y lograremos la tarea en cuestión. Además, también representaremos un gráfico y veremos la acción en vivo de la función ReLU en esta matriz.

El siguiente código usa la función ReLU en una matriz en Python.

import numpy as np
import plotly.express as px


def relu1(a):
    return np.maximum(0, a)


x1 = np.linspace(start=-5, stop=5, num=26)
print(x1)
x2 = relu1(x1)
print(x2)
px.line(x=x1, y=x2)

El código anterior proporciona el siguiente resultado: