Optimización de hiperparámetros en redes perceptrón multicapa tradicionales mediante búsqueda exploratoria de códigos variables

Authors

  • Javier Carballo Pérez Universidad Tecnológica de La Habana «José Antonio Echeverría» (CUJAE)
  • José Arzola Ruiz Universidad Tecnológica de La Habana «José Antonio Echeverría» (CUJAE)

Abstract

The problem of hyperparameter optimization in multilayer perceptron neural networks for non-linear continuous regression tasks was addressed. A heuristic method termed Exploratory Search at the Extreme of a Variable Code Function, derived from the Variable Integration Method, was proposed. The optimization problem was formulated using a Chebyshev distance scalarization that simultaneously balances predictive accuracy (R²) and generalization across training, validation, and test sets. The method was evaluated on five UCI regression datasets. Comparisons against Random Search and Bayesian Optimization demonstrated statistically significant improvements in mean squared error versus Bayesian Optimization (p = 0.031), with low variability across independent runs.

Keywords: Artificial neural networks, multi-objective optimization, heuristics, non-linear regression, hyperparameter optimization

Author Biographies

Javier Carballo Pérez, Universidad Tecnológica de La Habana «José Antonio Echeverría» (CUJAE)

Javier Carballo Pérez: Ingeniero Industrial por la Universidad Tecnológica de La Habana «José Antonio Echeverría» (CUJAE), graduado con Título de Oro, Premio al Mérito Científico. Profesor de la Facultad de Ingeniería Industrial de la CUJAE e investigador en optimización, inteligencia artificial y análisis de datos, con énfasis en la optimización de arquitecturas de redes neuronales artificiales mediante métodos metaheurísticos. Ha participado en proyectos de optimización de procesos industriales y es autor de publicaciones y ponencias nacionales e internacionales en las áreas de ingeniería industrial e inteligencia artificial.

Correo electrónico: carballoperezjavier0@gmail.com.

ORCID: https://orcid.org/0009-0000-0908-136X.

José Arzola Ruiz, Universidad Tecnológica de La Habana «José Antonio Echeverría» (CUJAE)

José Arzola Ruiz: Ingeniero Metalúrgico, esp. Automatización desde 1971. PhD en Cibernétcia Técnica, desde 1982, en la Universidad Politécnico de San Petersburgo, Rusia. Investiga en el área del Análisis y la Síntesis de Sistemas de Ingeniería, métodos asociados y sus aplicaciones. Tiene 2 libros y alrededor de 100 artículos publicados, dedicados a su línea de investigación. Profesor de la facultad de Mecánica de la CUJAE.

Correo electrónico: josearzolaruiz1945@gmail.com ORCID: https://orcid.org/0000-0002-4101-878X

Published

2026-09-03

How to Cite

Carballo Pérez, J., & Arzola Ruiz, J. (2026). Optimización de hiperparámetros en redes perceptrón multicapa tradicionales mediante búsqueda exploratoria de códigos variables. Industrial Engineering (Ingeniería Industrial), 47. Retrieved from https://rii.cujae.edu.cu/index.php/revistaind/article/view/1369

Issue

Section

Operations Research and Statistics