En respuesta a "¿Cuáles son tus áreas favoritas de las matemáticas?"

¿Qué área de las matemáticas estás usando en tus investigaciones actuales (sé que estás haciendo algo de deep learning pero no sé exactamente qué)?

Yo trabajo concretamente en autoencoders, que son redes simétricas. En deep learning (aka redes neuronales con muchas capas) se usa básicamente el álgebra matricial para hacer pasar datos a través de la propia red. Se suele hablar de tensores en el ámbito pero causa confusión con los tensores “de verdad”: en deep learning un tensor es simplemente un array de varias dimensiones, posiblemente más de 2.

A grandes rasgos, la mayoría de redes representan una colección parametrizada de funciones deterministas de los datos, y para entrenar (es decir, encontrar los parámetros que mejor se adecúen a los datos) hay que buscar la mínima distancia entre los valores de salida de la red y los que buscamos (siempre hay algo contra lo que comparar). Aquí se usa el descenso del gradiente, normalmente aproximaciones estocásticas porque es una técnica analítica.

Para definir los modelos a veces se usan la probabilidad y la inferencia, sobre todo para los que no son deterministas. Unos muy interesantes aquí son los variacionales, que permiten generar datos una vez que se han entrenado. Para esto se usa inferencia variacional, tema que no controlo pero quiero aprender cuando saque tiempo.