Vou seguir o procedimento apresentado nessa resposta.
1) Derive a função em relação a todas as coordenadas e iguale essas derivadas a zero:
\(\frac{\partial f(x,y)}{\partial x}=9x^2 -18 y=0\), \(\frac{\partial f}{\partial y}=3y-18x=0\)
2) Encontre as soluções do sistema de equações:
Substituindo \(y=6x) na primeira equação, nós chegamos a duas soluções
\(0,0)\) e \((12,72)\).
3) Calcule a matriz de segundas derivadas da função:
\[H=\frac{\partial^2 f}{\partial x^2}=\left[\begin{array}{cc} 18x & -18 \\ -18 & 3\end{array} \right]\]
4) Substitua cada ponto encontrado no ítem (2) na matriz hessiana encontrada em (3) e teste para cada caso se a matriz é positiva definida, negativa definida ou indefinida.
\[H_{(0,0)}=\left[\begin{array}{cc} 0 & -18 \\ -18 & 3\end{array} \right]\]
com
\(|H_1|=0\)
\(|H_2|=-364\)
que é um ponto de sela.
\[H_{(12,72)}=\left[\begin{array}{cc} 216 & -18 \\ -18 & 3\end{array} \right]\]
\(|H_1|=216\)
\(|H_2|=324\)
que é um ponto de mínimo.