Đặt 3−x=y gt ⇔{x2+y2+2xy=9x2+y2≥5 ⇒(x2+y2)+4(x2+y2+2xy)≥41 ⇔5(x2+y2)+8xy≥41
mà 16(x2+y2)2+25(2xy)2≥40(x2+y2)2xy(ad(a−b)2≥0) (1)
cộng 2 vế of (1) vs 25(x2+y2)2+16(2xy)2 ta được
41((x2+y2)2+(2xy)2)≥(5(x2+y2)+4(2xy))2≥412
⇒(x2+y2)2+(2xy)2≥41
⇒x4+y4+6x2y2≥41 ⇒P≥41
dấu "=" ⇔(x;y)=(1;2);(2;1)