Chọn C
Ta có:\( \log _{2} \frac{x^{2} +y^{2} }{3xy+x^{2} } +x^{2} +2y^{2} +1\le 3xy\)
\(\Leftrightarrow \log _{2} \left(x^{2} +y^{2} \right)-\log _{2} \left(3xy+x^{2} \right)+x^{2} +2y^{2} +1\le 3xy\)
\(\Leftrightarrow \log _{2} \left(2x^{2} +2y^{2} \right)-\log _{2} \left(3xy+x^{2} \right)+x^{2} +2y^{2} -3xy\le 0\)
\(\Leftrightarrow \log _{2} \left(2x^{2} +2y^{2} \right)+2x^{2} +2y^{2} \le \log _{2} \left(3xy+x^{2} \right)+3xy+x^{2} \)
Xét hàm số\( f\left(t\right)=\log _{2} t+t\, \, \, \left(t>0\right)\)
Ta có: \(f'\left(t\right)=\frac{1}{t\ln 2} +1>0,\forall t>0.\)
Suy ra hàm số đồng biến trên khoảng\( \left(0,+\infty \right).\)
Đặt \(t=\frac{x}{y} BPT \eqref{GrindEQ__1_} trở thành: t^{2} -3t+2\le 0 \Leftrightarrow 1\le t\le 2.P=\frac{2x^{2} -xy+2y^{2} }{2xy-y^{2} } =\frac{2\left(\frac{x}{y} \right)^{2} -\frac{x}{y} +2}{2\frac{x}{y} -1} \Rightarrow P\left(t\right)=\frac{2t^{2} -t+2}{2t-1} ,\, \, t\in \left[1,2\right]\)
Suy ra: \(P'=\frac{4t^{2} -4t-3}{\left(2t-1\right)^{2} } \)
\(P'=0\Leftrightarrow 4t^{2} -4t-3=0\Leftrightarrow \left[\begin{array}{l} {t=-\frac{1}{2} \, \, \left(L\right)\, } \\ {t=\frac{3}{2} \, \, \, \left(N\right)} \end{array}\right. \)
Ta có: \(P\left(1\right)=3, P\left(\frac{3}{2} \right)=\frac{5}{2} , P\left(2\right)=\frac{8}{3} .\Rightarrow \min P=\frac{5}{2} . \)