De nombreux estimateurs sont définis comme solution d'un problème d'optimisation en statistiques, par exemple l'estimateur des moindres carrés, l'estimateur du maximum de vraisemblance, ou les estimateurs Bayesiens du maximum a posteriori. Nous étudierons ces problèmes d'optimisation (existence, unicité, convexité, différentiabilité) et développerons des algorithmes pour calculer ces estimateurs, notamment steepest descent, conjugate gradient, Newton (BFGS), relaxation (back-fitting), points intérieurs.