Variability modeling language and tool to represent, configure and evaluate Convolutional Neural Network architectures

dc.contributor.advisorMazo Peña, Raúl
dc.contributor.authorMurillo Portocarrero, Julián Alexander
dc.coverage.spatialMedellín de: Lat: 06 15 00 N degrees minutes Lat: 6.2500 decimal degrees Long: 075 36 00 W degrees minutes Long: -75.6000 decimal degreeseng
dc.creator.degreeMagíster en Ingenieríaspa
dc.creator.emailjamurillop@eafit.edu.co
dc.date.accessioned2024-08-28T17:49:54Z
dc.date.available2024-08-28T17:49:54Z
dc.date.issued2024
dc.descriptionEl proceso de diseño de arquitecturas de Redes Neuronales Convolucionales (CNN) actualmente depende del diseño manual o de la participación de personal experto. Este proceso no solo toma tiempo, sino que también es costoso debido a la gran cantidad de experimentos que los arquitectos deben realizar para poder llegar a los hiper-parámetros adecuados de la red neuronal que se ajusten al problema a tratar. En este trabajo se discute el estado del arte de varios enfoques que han sido propuestos para automatizar dichos procesos arquitectónicos, explorando alternativas para el diseño automatizado de Redes Neuronales Convolucionales y la Búsqueda de Arquitectura Neural (NAS). Además, este trabajo propone un método para la generación de variabilidad de hiper-parámetros que permite el diseño automático de dichas redes neuronales convolucionales mediante el uso del lenguaje “CNN variability language”, el cual se basa en los conceptos de las líneas de productos de software orientadas a características (FOSPL). El lenguaje fue creado en VariaMos, una herramienta que no solo nos permite usar los lenguajes creados en ella, sino que también nos permite resolver automáticamente la variabilidad de cada modelo gracias al uso de solvers de restricciones. Además, la herramienta nos permite generar Jupyter Notebooks ejecutables por cada configuración encontrada, y con cada una de ellas generar informes comparativos que permitan acelerar el proceso de NAS.
dc.description.abstractThe process of designing Convolutional Neural Network (CNN) architectures currently relies on manual design or the involvement of experts. This process is not only time-consuming but also expensive due to the sheer number of combinations that architects need to do to arrive at the right network hyper-parameters that fit the current problem. In this work, we analyze the current state-of-the-art, in which several approaches have been proposed to automate such processes and explore alternatives for the automated design of Convolutional Neural Networks and Neural Architecture Search (NAS). Additionally, this work proposes a method for hyper-parameter variability generation from a variability model of such convolutional neural networks. The variability model proposed in this master thesis is used to represent, intensively, the valid combinations of parameters corresponding to each convolutional neural network. The language, called CNN variability language, borrows some concepts from Software Product Lines (SPL) and was created on the VariaMos platform to enable architects and engineers not just to create CNN architectures but also to automatically generate configurations, generate executable Jupyter Notebooks for each configuration, and generate comparison reports to speed up the NAS process.
dc.formatapplication/pdfeng
dc.identifier.urihttps://hdl.handle.net/10784/34446
dc.language.isospaspa
dc.publisherUniversidad EAFITspa
dc.publisher.departmentEscuela de Ciencias Aplicadas e Ingenieríaspa
dc.publisher.placeMedellín
dc.publisher.programMaestría en Ingenieríaspa
dc.rightsTodos los derechos reservadosspa
dc.rights.accessrightsinfo:eu-repo/semantics/openAccesseng
dc.rights.localAcceso abiertospa
dc.subjectRedes neuronales
dc.subjectBúsqueda de arquitecturas neuronales
dc.subjectDiseño automático
dc.subjectRedes neuronales convolucionales
dc.subjectModelos de variabilidad
dc.subject.keywordNeural Networks
dc.subject.keywordNeural Architecture Search
dc.subject.keywordAutomatic Design
dc.subject.keywordConvolutional Neural Networks
dc.subject.keywordVariability Models
dc.subject.lembINGENIERÍA
dc.subject.lembREDES NEURALES (COMPUTADORES)
dc.titleVariability modeling language and tool to represent, configure and evaluate Convolutional Neural Network architectures
dc.typemasterThesiseng
dc.typeinfo:eu-repo/semantics/masterThesiseng
dc.type.hasVersionacceptedVersioneng
dc.type.localTesis de Maestríaspa
dc.type.spaMonografía

Archivos

Bloque original
Mostrando 1 - 3 de 3
No hay miniatura disponible
Nombre:
JulianAlexander_MurilloPortocarrero_2024.pdf
Tamaño:
3.3 MB
Formato:
Adobe Portable Document Format
Descripción:
Trabajo de grado
No hay miniatura disponible
Nombre:
formulario_autorizacion_publicacion_obras.pdf
Tamaño:
755.47 KB
Formato:
Adobe Portable Document Format
Descripción:
Formulario de autorización de publicación de obras
No hay miniatura disponible
Nombre:
carta_aprobacion_trabajo_grado_eafit.pdf
Tamaño:
101.01 KB
Formato:
Adobe Portable Document Format
Descripción:
Carta de aprobación de tesis de grado
Bloque de licencias
Mostrando 1 - 1 de 1
No hay miniatura disponible
Nombre:
license.txt
Tamaño:
2.5 KB
Formato:
Item-specific license agreed upon to submission
Descripción: