Caso de uso redes neuronales [Puntos extra]

Para puntos extra esta semana se nos dio la oportunidad de buscar alguna aplicación de lo aprendido en redes neuronales aplicado por profesionales y publicado internacionalmente.

Para esta tarea la investigación que elegí fue la siguiente:

A neural network application for bankruptcy prediction
Autores: Wullianallur Raghupathi, Lawrence L. Schkade, Bapi S. Raju
En la universidad de Arlington, Texas

Este es el enlace al paper:
http://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=184054



Mi resumen sobre el artículo
Específicamente su objetivo es la aplicación de una red neuronal con backpropagation con una o dos capaz escondidas y variando nodos para hacer una predicción de la quiebra bancaria. Además de que la red neuronal puede producir una medida de que tan certero es su funcionamiento.

Su motivación parece ser lo incierto que es hacer una predicción a futuro de una compañía, por lo poco claro que es trabajar con estados financieros, leyes y directrices. La razón por la cual eligieron una red neuronal como algoritmo para este problema, es que los algoritmos estadísticos que existen son muy especifico y exigen modelar funciones que podrían o no funcionar y que quizas no podrían dar la generalización que requiere el problema.

[Imagen obtenida de: https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEj2YvRacTlpRT6S-HY1ZF-2ArF1EpyS-29o1CJk8ol8yRcEu60GwSG7b_OkpPDHV9kGZ98XwkHKAwHrpdLvZYZhLkzMDBv04FOwmUcXugyGXi7jCmF0Z4vR_hji-gqJ8wUabe34OhgoCIA/s1600/bankruptcy.jpg]

Como manejan el problema

Para poder interpretar el problema con una red neuronal ellos manejan el problema como uno de clasificación puesto que esto es muy común para este tipo de problema. En su clasificación existen dos grupos, los que van a quedar en banca rota y los que no, utilizando la red neuronal producen estas dos salidas.

Su red neuronal
La red neuronal que utilizan es una común donde cada capa esta completamente conectada con la siguiente.

[imagen obtenida de:"http://galaxy.agh.edu.pl/~vlsi/AI/backp_t_en/backprop_files/img19.gif"]

La función kernel que utilizan para transformar las neuronas es la de Sigmoid y la regla delta del error es utilizada para calcular pues el error.

[Imagen obtenida de:"http://reed.cs.depaul.edu/peterh/class/csc578/lectures/bookpng/ann-sigmoid.png"]

Sus entradas para la red
Para seleccionar sus variables de entrada a la red neuronal, ellos hicieron una extensa investigación sobre personas que hayan tratado de resolver el mismo problema y seleccionaron las variables más utilizadas para predecir bancarrota en compañías e hicieron una tabla con estos y después hicieron una segunda tabla con la interpretación que se les da a cada uno.

Recolección de datos
Los datos para la red neuronal, ellos seleccionaron 100 compañías de prueba de las que 51 quedaron en bancarrota y 50 de ellas no, esta lista de compañías la obtuvieron de investigación donde el, de listas de 1980-1988 del wall Street Journal Index

Su ejecución
Para el experimento ellos entrenaron la red con 14 entradas de las variables ya mencionadas que seleccionaron y una salida de la red neuronal para la clasificación que daría como salida si quedara o no en bancarrota la compañía.

Para seleccionar la cantidad de capaz escondidas, ellos probaron con diferentes tipos de configuraciones hasta que encontraron una lo suficientemente óptima.

El resultado
Al parecer la neurona redujo su error mientras estaba siendo entrenada pero ellos no notaron ningún cambio en el aprendizaje de la red.

Conclusión
Mis conclusiones del resumen de esta investigación es que no se necesitan redes demasiado complicadas para lograr buenos resultados en el mundo real, si no que  una buena investigación y un buen análisis de los datos puede ser una parte realmente importante en la realización de una red neuronal.

Referencias:
http://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=184054