Optimización No Lineal sin restricciones

¿Cuándo un punto es mínimo de una función no lineal?

En un problema sin restricciones ${\min }_{x\in {\mathbb{R}}^n}f(x)$ con $f$ diferenciable, la optimalidad local se caracteriza con derivadas primera y segunda.

CN1 — condición necesaria de primer orden

En un mínimo local el gradiente se anula. Los puntos que la cumplen se llaman puntos críticos o estacionarios:

Es necesaria pero no suficiente: un punto silla o un máximo también anulan el gradiente.

CN2 — condición necesaria de segundo orden

Para que un punto crítico sea mínimo local, la Hessiana $H={\nabla }^{2}f(x^{\ast })$ debe ser semidefinida positiva (SDP):

Condición suficiente

Si el gradiente se anula y la Hessiana es definida positiva (DP), el punto es mínimo local estricto:

Determinar el signo de la Hessiana

Criterio de Sylvester (para DP y DN)

Con ${\Delta }_k$ = menor principal líder de orden $k$ (la submatriz de las primeras $k$ filas y columnas):

Reglas del caso semidefinido

• SDP $⟺$ todo menor principal $M_k\ge 0$ (no solo los líderes).
• SDN $⟺$ $(-1{)}^k{M}_k\ge 0$ para todo menor principal.
• Autovalores de signos opuestos ⟹ indefinida (punto silla): ni DP/DN/SDP/SDN.

Alternativa segura: estudiar $d^{\top }Hd$

Cuando el caso semidefinido complica los menores, se estudia el signo de la forma cuadrática $d^{\top }Hd$ para todo $d\ne 0$ (completando cuadrados), o los autovalores directamente. $H⪰0⟺d^{\top }Hd\ge 0\forall d$.

¿Existe siquiera un mínimo?

Antes de buscar candidatos conviene garantizar que el óptimo existe.

Bolzano-Weierstrass (BW)

Si $f$ es continua sobre un dominio compacto (cerrado y acotado) no vacío, entonces $f$ alcanza su mínimo y su máximo en ese dominio.

BW extendido: coercitividad

En un dominio no acotado (como todo ${\mathbb{R}}^n$) BW no aplica directo, pero si $f$ es continua y coercitiva —se dispara a infinito cuando nos alejamos— entonces existe mínimo global:

Cómo demostrar coercitividad (receta por casos)

Error típico: mirar un solo eje ($x_1\to \infty$ con $x_2$ fijo) no basta — hay que cubrir todas las formas en que $\Vert x\Vert \to \infty$. Cuando $f$ es suma de bloques no negativos:

1. Busca una variable ancla: la que aparece pura (sin combinarse) en algún bloque.
2. Caso A — la ancla diverge: ese bloque solo ya fuerza $f\to \infty$.
3. Caso B — la ancla queda acotada: como $\Vert x\Vert \to \infty$, otra variable debe divergir; al estar la ancla acotada, la combinación lineal del otro bloque queda dominada por esa otra variable y también diverge.
4. A y B son excluyentes y cubren todo el infinito ⟹ $f$ es coercitiva.

Ejemplo: $g(x,y)=(x+3y-2{)}^2+\sqrt{9+y^2}$, ancla $y$ (pura en el segundo bloque). Si $|y|\to \infty$, el segundo bloque diverge; si $y$ queda acotada, $|x|\to \infty$ y $x+3y-2$ queda dominado por $x$, así que el primer bloque diverge.

De local a global

Suficiencia global por convexidad

Si la Hessiana $H={\nabla }^{2}f(x)$ es SDP en todo el dominio (convexo), entonces $f$ es convexa y cualquier punto estacionario ($\nabla f=0$) es de inmediato mínimo global. No hace falta que sea único ni que $H$ sea DP en ese punto.

Receta para el caso NO convexo (irrestricto)

Cuando $H$ no es SDP en todo el dominio, no hay convexidad global y un candidato individual no basta:

1. Existencia: BW extendido (coercitividad + continuidad) ⟹ existe mínimo global.
2. Candidatos: todos los $x$ con $\nabla f(x)=0$ (CN1) y $H(x)$ SDP en ese punto (CN2) — descarta puntos silla (Hessiano indefinido) y máximos (Hessiano SDN).
3. Evaluar y comparar $f$ en cada candidato; el de menor valor es el mínimo global.