v2.5.0 (3618)

# Cours scientifiques - OPT201 : Optimisation Différentiable: Théorie et Algorithmes

## Descriptif

[The course will be given in English this year]

Optimisation underpins many engineering problems, where we are tasked with modelling and finding the optimal decision in a variety of contexts. Take as an example, the optimal control of an autonomous vehicle that has to navigate street constraints, or the optimal training of neural networks. Optimisation is also very present in everybody's life, when one try to ``optimise'' their agenda to fit all their activities and still find time to study for the exams.

In this course, we are going to present key concepts and results in differentiable continuous optimisation in finite dimension, which is a very broad area in optimisation. We will leave out discrete optimisation (which is often referred to as Operations research), and infinite dimension optimisation (such as shape optimisation).

We will focus on theoretical aspects as well as algorithmic, and we will show how they are related.

The goal of the course is to

• To learn what is optimisation (what problems are solved and how, what are the basic assumption, e.g., convexity, and how to interpret the output of an optimisation problem)
• To understand the basic optimisation models (convex, non-convex, etc..) and know how to formulate an optimisation problem that makes sense
• To acquire the basic lingo and properties of optimisation algorithms, so that one is able to tell why, when something doesn’t work in practice.
• To understand that optimisation is math (so without theorems one doesn’t go very far), but also computations (scaling is important), and engineering (models, models, models).

The course is the first of two: the follow up OPT202 will dig a little deeper in both theory and practice, especially when the simplyfing assumptions of the OPT201 (e.g., differentiability) don't hold anymore.

All the materials will be available in Moodle

Remarque: ce cours compte pour 3 ECTs pour l'obtention du M1-Mathématiques Appliquées

## Objectifs pédagogiques

The goal of the course is to

• To learn what is optimisation (what problems are solved and how, what are the basic assumption, e.g., convexity, and how to interpret the output of an optimisation problem)
• To understand the basic optimisation models (convex, non-convex, etc..) and know how to formulate an optimisation problem that makes sense
• To acquire the basic lingo and properties of optimisation algorithms, so that one is able to tell why, when something doesn’t work in practice.
• To understand that optimisation is math (so without theorems one doesn’t go very far), but also computations (scaling is important), and engineering (models, models, models).

21 heures en présentiel (7 blocs ou créneaux)
réparties en:
• Travaux dirigés en salle info : 6
• Petite classe : 8
• Cours magistral : 6
• Contrôle : 1

10/100

AO101

## Pour les étudiants du diplôme Diplôme d'Ingénieur de l'Ecole Nationale Supérieure de Techniques Avancées

Avoir suivi le cours AO101 en 1ère année.

Numérique sur 20

## Pour les étudiants du diplôme Diplôme d'Ingénieur de l'Ecole Nationale Supérieure de Techniques Avancées

### Vos modalités d'acquisition :

Written exam (2h) + numerical project (see Moodle for details)

Le rattrapage est autorisé (Max entre les deux notes écrêté à une note seuil)
• le rattrapage est obligatoire si :
Note initiale < 6
• le rattrapage peut être demandé par l'étudiant si :
6 ≤ note initiale < 10
L'UE est acquise si Note finale >= 10
• Crédits ECTS acquis : 2 ECTS
• Scientifique acquis : 2

Le coefficient de l'UE est : 1

La note obtenue rentre dans le calcul de votre GPA.

L'UE est évaluée par les étudiants.

## Pour les étudiants du diplôme Master 1 Applied Mathematics ans statistics - Orsay

### Vos modalités d'acquisition :

Written exam (2h) + numerical project (see Moodle for details)

Le rattrapage est autorisé (Note de rattrapage conservée)
• le rattrapage est obligatoire si :
Note initiale < 7
• le rattrapage peut être demandé par l'étudiant si :
7 ≤ note initiale < 10
L'UE est acquise si Note finale >= 10
• Crédits ECTS acquis : 2 ECTS
• Scientifique acquis : 2

Le coefficient de l'UE est : 1

La note obtenue rentre dans le calcul de votre GPA.

L'UE est évaluée par les étudiants.

### Programme détaillé

• Session 1. Introduction and convexity
• Session 2. Optimality conditions
• Session 3. Algorithms
• Session 4. Optimization models
• Session 5. -
• Session 6. Duality

### Mots clés

Optimisation, Conditions d'optimalité, Méthodes Numériques, Algorithmes, Recherche Linéaire, Gradient Conjugué, Newton, Quasi-Newton, Pénalisation, Méthode du Simplexe, Méthode de points intérieurs, Dualité

### Méthodes pédagogiques

En version papier: Syllabus, résumé de cours; tous les documents (y compris les énoncés et solutions des TDs) sont disponibles sur le site pédagogique. 