Phase Diagram and Approximate Message Passing for Blind Calibration and Dictionary Learning

Florent Krzakala 1 Marc Mézard 2 Lenka Zdeborová 3
1 LPCT - Laboratoire de Physico-Chimie Théorique
2 LPTMS - Laboratoire de Physique Théorique et Modèles Statistiques
3 IPHT - Institut de Physique Théorique - UMR CNRS 3681
Abstract : We consider dictionary learning and blind calibration for signals and matrices created from a random ensemble. We study the mean-squared error in the limit of large signal dimension using the replica method and unveil the appearance of phase transitions delimiting impossible, possible-but-hard and possible inference regions. We also introduce an approximate message passing algorithm that asymptotically matches the theoretical performance, and show through numerical tests that it performs very well, for the calibration problem, for tractable system sizes.
Type de document :
Article dans une revue
IEExplore, 2013, Information Theory Proceedings (ISIT), 2013 IEEE International Symposium, pp.659 - 663. 〈10.1109/ISIT.2013.6620308 〉
Liste complète des métadonnées
https://hal-cea.archives-ouvertes.fr/cea-01140799
Contributeur : Emmanuelle De Laborderie <>
Soumis le : jeudi 9 avril 2015 - 15:23:28
Dernière modification le : jeudi 7 février 2019 - 14:22:33

Lien texte intégral

arxiv

Identifiants

Collections

CEA | ESPCI | LPCT | DSM-IPHT | PARISTECH | INC-CNRS | PSL | CEA-DRF

Citation

Florent Krzakala, Marc Mézard, Lenka Zdeborová. Phase Diagram and Approximate Message Passing for Blind Calibration and Dictionary Learning. IEExplore, 2013, Information Theory Proceedings (ISIT), 2013 IEEE International Symposium, pp.659 - 663. 〈10.1109/ISIT.2013.6620308 〉. 〈cea-01140799〉

Exporter

BibTeX TEI DC DCterms EndNote

Partager

Métriques

Consultations de la notice

297

Contact

support.ccsd.cnrs.fr
hal.support@ccsd.cnrs.fr
Logo CCSD