Ben tu écris ton Hessien déjà, donc tu dérive ta fonction par rapport a x puis par rapport a y et tu écris la matrice (coeff de x dans la dérivée seconde par rapport a x,coeff de y dans la dérivée seconde par rapport a x,coeff de x dans la dérivée seconde par rapport a y, coeff de y dans la dérivée seconde par rapport a y).
Du coup tu obtiens une matrice 2*2 en fonction de x et de y. Et si tu dois ecrire le hessien aux point stationnaires ben tu trouve ces points (couples (x,y) ) et tu remplace dans le hessien.
Ensuite pour chaque couple, tu calcule de determinant de H, selon sont signe tu sais alors de quel type de point stationnaire il s'agit, genre si detH >0 alors t'as un min local etc .
Et je pense que dire que t'as un min local ou un max local suffit à dire que t'as une fonction concave ou convexe.
Par contre si tu trouve pas de points stationnaires c'est bizarre, c'est que ta fonction n'a pas de points particulier (comme une fonction affine par exemple) et du coup évidement la suite n'a aucun sens.