BCMA-ES: A Bayesian approach to CMA-ES

Benhamou, Éric; Saltiel, David; Verel, Sébastien; Teytaud, Fabien

Benhamou, Éric; Saltiel, David; Verel, Sébastien; Teytaud, Fabien (2020), BCMA-ES: A Bayesian approach to CMA-ES. https://basepub.dauphine.fr/handle/123456789/21201

Voir/Ouvrir

main.pdf (448.3Kb)

Type

Document de travail / Working paper

Lien vers un document non conservé dans cette base

https://hal.archives-ouvertes.fr/hal-02886512

Date

2020

Titre de la collection

Preprint Lamsade

Métadonnées

Afficher la notice complète

Auteur(s)

Benhamou, Éric
Laboratoire d'analyse et modélisation de systèmes pour l'aide à la décision [LAMSADE]
Saltiel, David
Verel, Sébastien

Teytaud, Fabien

Résumé (EN)

This paper introduces a novel theoretically sound approach for the celebrated CMA-ES algorithm. Assuming the parameters of the multi variate normal distribution for the minimum follow a conjugate prior distribution, we derive their optimal update at each iteration step. Not only provides this Bayesian framework a justification for the update of the CMA-ES algorithm but it also gives two new versions of CMA-ES either assuming normal-Wishart or normal-Inverse Wishart priors, depending whether we parametrize the likelihood by its covariance or precision matrix. We support our theoretical findings by numerical experiments that show fast convergence of these modified versions of CMA-ES.