Ressources

Cours-séminaire Mardi 5 février 13h30 + Vendredi 8 février 10h

Aspects entrainement: ordre des exemples et structure des optima

Curriculum Learning by Transfer Learning: Theory and Experiments with Deep Networks, ICML 18
- Curriculum = ds quel ordre traiter les exemples HAMIDECHE Sid Ali, JABRI Mohamed Khalil, MADJI Youcef, YAKOUBI Yacine
Not All Samples Are Created Equal: Deep Learning with Importance Sampling, ICML 18
- Importance sampling: quelle est la contribution d'un exemple ? (et le bruit ?) Robin Duraz et Jiaxin Gao
An Alternative View: When Does SGD Escape Local Minima?, ICML 18
- Structure du paysage d'optimisation
Deep Linear Networks with Arbitrary Loss: All Local Minima Are Global, ICML 18
- Cas linéaire et dimension des couches intermédiaires Théo Cornille et Luc Gibaud

Adversaires

Fiabilité

Architectures et critères

The challenge of realistic music generation: modelling raw audio at scale, Arxiv 18
- Création musicale : quelle architecture pour les dépendances à long terme ? Malik Kazi Aoual et Nouredine Nour et Vu Thanh Trung
Pseudo-task Augmentation: From Deep Multitask Learning to Intratask Sharing—and Back, ICML 18
- NN et plomberie : naviguer entre les datasets
Deep One-Class Classification, ICML 18 Martin Bauw
- Quel critère pour détecter des anomalies ?
Assessing Generative Models via Precision and Recall, Arxiv 18
- Quel critère pour apprendre des modèles génératifs ?

Hyper-paramètres

BOHB: Robust and Efficient Hyperparameter Optimization at Scale, ICML 18
- Comment optimiser les hyper-paramètres d'un apprentissage cher ? Maktouf, Garcia Cancian, Taha