Author
Liang, Jingwei
150 Groupe de Recherche en Informatique, Image, Automatique et Instrumentation de Caen [GREYC]
Fadili, Jalal M.
150 Groupe de Recherche en Informatique, Image, Automatique et Instrumentation de Caen [GREYC]
Peyré, Gabriel
60 CEntre de REcherches en MAthématiques de la DEcision [CEREMADE]
Type
Communication / Conférence
Item number of pages
4
Abstract (FR)
Nous considérons la classe des algorithmes proximaux implicites-explicites inertiels (iFB) pour minimiser la somme deux fonctions propres, semi-continues inférieurement et convexes, dont l’une est à gradient Lipschitz et l’autre est partiellement régulière relativement à une variété active M. Cette classe inclut comme cas particuliers populaires les algorithmes FB et FISTA pour un choix approprié du paramètre inertiel dans ce dernier. Nous proposons une analyse unifiée et montrons que les itérées du schéma iFB, (i) identifient la variété active M en temps fini, et ensuite (ii) entrent dans un régime de convergence linéaire locale dont nous caractérisons le taux de façon précise. Ces résultats donnent une justification théorique aux comportements typiques qui ont été observés numériquement pour plusieurs problèmes inclus dans notre cadre, comme par exemple le Lasso, le group-Lasso, la minimisation de la variation totale, ou celle de la norme nucléaire. Ces résultats peuvent avoir plusieurs applications en traitement du signal et des images ou en apprentissage statistique.
Abstract (EN)
We consider the class of inertial Forward-Backward (iFB) proximal splitting algorithms, to minimize the sum of two proper lower semi-continuous convex functions, one of which having a Lipschitz continuous gradient and the other being partly smooth relative to an active manifold M. Special cases of this class include the FB and, for an appropriate choice of the inertial parameter, FISTA-like schemes. We propose a unified analysis, under which we show that iFB-type splitting, (i) correctly identifies the active manifold M in a finite number of iterations, and then (ii) enters a local (linear) convergence regime, which is characterised precisely. This gives a grounded justification to the typical behaviour that has been observed numerically for many problems encompassed in our framework, including the Lasso, the group Lasso, total variation minimization and the nuclear norm regularization to name a few. These results may have numerous applications including in signal/image processing processing and machine learning.
