La robustesse adverse et la détection hors-distribution ont toutes deux une saveur topologique : de petites perturbations déplacent les points hors de la variété des données, les exemples OOD se trouvent dans des composantes connexes différentes du support, le décalage de distribution change la forme globale des données. Plusieurs articles récents exploitent cela. D'autres en font trop. Cette semaine s'adresse aux praticiens ML qui veulent une vue sobre de ce que la topologie apporte réellement.
Cette formation ouvrira quand les publications d'AIRINA dans le domaine seront mûres. Cadrage honnête : nous ne la lançons pas encore parce que nous n'avons pas encore l'autorité pour l'enseigner. Exprimez votre intérêt maintenant et nous reviendrons vers vous quand la cohorte ouvrira.
Aperçu du programme
Cinq jours consécutifs en présentiel à Cotonou. Cohorte de ~12 participants. Chercheurs AIRINA en ATD et ML appliqué, plus un chercheur invité de la communauté internationale de sûreté de l'IA, nommé quatre semaines avant chaque cohorte. Cette formation ouvre sa première cohorte une fois que les publications d'AIRINA dans ce domaine seront en place.
Liste de lectures et exercices pré-cohorte envoyés 4 semaines avant. Tarif industriel / académique.
Structure du programme
- Jour 1. Robustesse adverse — modèles de menace, attaques (PGD, AutoAttack, transfert), défenses (entraînement adverse, randomized smoothing, bornes certifiées). Compromis robustesse-précision.
- Jour 2. Signatures topologiques des exemples OOD — diagrammes de persistance des activations, détecteur OOD par persistance, comparaison à deep ensembles, scores énergétiques, Mahalanobis.
- Jour 3. Robustesse certifiée par structure topologique — où l'on obtient des garanties, où l'on n'a que de l'empirique. Limitations et problèmes ouverts.
- Jour 4. Topologie dans la boucle d'entraînement — persistance différentiable, régularisateurs topologiques, coût en précision propre.
- Jour 5. Projet final — détecteur topologiquement enrichi ou entraîneur robuste, défendu contre une référence honnête en session de 30 minutes.
Évaluation
Méthode topologique sur un vrai problème de robustesse ou de détection OOD, avec une référence classique solide dans le même harnais d'évaluation. La note dépend de si votre comparaison survivrait à une relecture d'article.
Certificat
L'achèvement complet — semaine + projet final défendu — donne droit à un certificat AIRINA ML robuste avec ATD, projet final noté.
Acquis pédagogiques
À l'issue du programme, les participants sauront :
- Calculer les signatures topologiques des activations et des entrées, et les utiliser comme caractéristiques dans un pipeline de robustesse.
- Construire un détecteur OOD basé sur la persistance et le comparer honnêtement à des ensembles profonds, à des détecteurs énergétiques, et à des références Mahalanobis.
- Appliquer la persistance différentiable dans une boucle d'entraînement robuste, en étant conscient des problèmes de sous-gradient.
- Lire un article récent « la topologie donne de la robustesse » et identifier si l'affirmation survit à des références correctes.
- Décider quand les méthodes topologiques sont justifiées pour un problème de robustesse et quand elles ne le sont pas. Les deux arrivent.
Programme détaillé
Modèles de menace, attaques (PGD, AutoAttack, attaques par transfert), et défenses (entraînement adverse, randomized smoothing, bornes certifiées). Où chaque méthode fonctionne et où elle ne fonctionne pas. La photographie honnête du compromis robustesse-précision.
Diagrammes de persistance des activations sur entrées in-distribution vs OOD. Construire un détecteur OOD basé sur la persistance. Comparaison à des ensembles profonds, scores énergétiques, et Mahalanobis sur benchmarks type CIFAR et tabulaires.
Là où les propriétés géométriques/topologiques des données donnent des garanties de niveau certificat, et là où elles ne donnent qu'une robustesse empirique. Limitations et problèmes ouverts.
Persistance différentiable appliquée à l'entraînement robuste ; régularisateurs topologiques ; le coût en précision propre et comment y penser.
Les participants choisissent un problème de robustesse ou OOD dans une liste curatée (ou apportent le leur avec accord), construisent un détecteur topologiquement enrichi ou un entraîneur robuste, et le défendent contre une référence honnête en session de 30 minutes.
À qui s'adresse cette formation
Cette formation s'adresse aux praticiens ML qui déploient en contexte adverse et veulent savoir, sans marketing, ce que l'ATD ajoute réellement aux outils standards de robustesse.
- Ingénieurs ML et ingénieurs de recherche travaillant sur la robustesse, la détection OOD, la supervision de modèles.
- Chercheurs en sûreté de l'IA intéressés par les méthodes topologiques.
- Équipes risque et sécurité d'institutions financières et au-delà qui déploient du ML en contexte adverse.
Prérequis
- Pratique ML. PyTorch, boucles d'entraînement, discipline d'évaluation.
- Robustesse adverse. Familiarité avec PGD, FGSM, AutoAttack et les références en détection OOD.
- ATD. Une exposition préalable — la Formation /01 est un prérequis recommandé ou équivalent.
Sélection
Cohorte de ~12 participants. Nous demandons un CV et un court paragraphe sur les problèmes de robustesse que vous comptez attaquer avec ces outils. Les inscriptions ouvrent quand la maturité de la recherche d'AIRINA dans le domaine le permettra.
Brochure
La brochure détaillée du programme (PDF, FR/EN) est envoyée sur demande — avec le programme jour par jour, les profils des intervenants, des exemples de projets, et le calendrier prévisionnel de la première cohorte.
Pour recevoir la brochure courante, écrivez à contact@airina.africa avec « ML robuste — demande de brochure » en objet. Cette formation ouvre quand la production de recherche d'AIRINA dans le domaine sera mûre ; nous reviendrons vers vous quand une cohorte sera programmée.