Ta có: $P=(x+\frac{1}{y})^2+11(x+\frac{1}{y})+\frac{3}{x+\frac{1}{y}}$
Đặt $t=x+\frac{1}{y>0}$
Ta có:
$P=t^2+11t+\frac{3}{t}=(t-\frac{1}{2})^2+(12t-\frac{3}{t})-\frac{1}{4}\geq 2\sqrt{12t.\frac{3}{t}}-\frac{1}{4}=\frac{47}{4}$
Đẳng thức xảy ra khi $t=\frac{1}{2}$
Giải hệ: $\left\{ \begin{array}{l} x+y=\frac{17}{4}\\ x+\frac{1}{y}=\frac{1}{2} \end{array} \right.$ được $\left\{ \begin{array}{l} x=\frac{1}{4}\\ y=4 \end{array} \right..$
Vậy $minP=\frac{47}{4}$ đạt được khi $\left\{ \begin{array}{l} x=\frac{1}{4}\\ y=4 \end{array} \right../$