Las redes neuronales están compuestas por elementos de procesamiento o unidades que están unidas mediante conexiones. Primero describiremos estas unidades y luego pasaremos a conectarlas en redes. Los modelos neuronales son mucho más complejos que los modelos computacionales. El comportamiento de las redes está determinado por la topología de la misma, los pesos de las conexiones y una función llamada función neuronal.

 

Se corresponderían con las neuronas artificiales (aunque su correspondencia no es directa ya que podrían representar grupos de neuronas) y son empleados (con variaciones) en gran cantidad de modelos.

En la figura vemos un nodo de procesamiento:

 

Los nodos  de procesamiento o neuronas sobre un conjunto es una terna  (X,f, i) siendo X un subconjunto de nodos, i un único nodo y f una función (llamada función neuronal) que calcula la salida de i a partir de una combinación  lineal de los de los valores de las salidas de los componentes de X (o entradas a i). Llamamos enti a la combinación  lineal correspondiente a las entradas y aia la salida.

 

Las Wj representan los pesos de cada conexión, los valores xj representan las salidasde las neuronas que afectan a la neurona i. Los pesos determinan que una neurona puede no responder a una señal muy alta de una de sus entradas y sin embargo responder a una señal baja de otra dependiendo del peso asignado a la sinapsis.

Podemos definir una red neuronal artificial como un par (N, U) donde N es un conjunto de nodos y U un conjunto de unidades procesadoras sobre N tal que cada nodo i  perteneciente a N tiene que ser un nodo de entrada o de salida de al menos una unidad procesadora de U.

 

Existen diversas funciones de activación lo que da lugar a diferentes modelos y las podemos en general dividir en tres grupos:

  • Funciones Lineales
  • Funciones de paso
  • Funciones sigmoideas

Las funciones más interesantes son las de paso y las sigmoideas. Veamos las de paso:

 

Las funciones de paso dan una respuesta binaria dependiendo de si el valor de entrada  está por debajo o por encima del umbral.

Las funciones sigmoideas dan una salida gradual no lineal y son funciones monótonas acotadas. La característica distintiva con respecto a las de paso es que son derivables.

 

 

La más usada, correspondiente al gráfico, es la denominada función logística y su ecuación es:

 

Esta función está acotada entre 0 y 1 (la curvatura varía cambiando c). Para tener una función entre –1 y 1 se puede usar la tangente hiperbólica.

 

Un aspecto a considerar es el umbral de activación. Como las redes neuronales aprenden ajustando los pesos W y el umbral de activación, se puede simplificar la tarea añadiendo a cada unidad una entrada más cuya activación la fijamos en –1 y haciendo que el peso sea igual al umbral de activación. De esta forma sólo hay que ocuparse de ajustar pesos y fijamos en 0 el umbral. Supongamos que tenemos un umbral de una neurona en 0.5. Para aplicar la funcion de activación utilizamos la sumatoria ponderada de las entradas (enti =SWjxj), si consideramos a xo = -1 y W0=0.5 y el umbral lo fijamos en 0, el resultado es el mismo, con la ventaja de que la red sólo debe trabajar variando los pesos.