Ta có: y'=(m+2)x^{2} - 2(m+2)x + m + 8 = mx^{2} + 2x^{2} - 2mx - 4x + m - 8 = x[(m+2)x - m - 4 ] - 8Hàm số đã cho nghịch biến trên (0;3) <=>y'\leq 0,\forall x \in (0;3) <=> x[(m+2)x - m - 4 ] - 8 \leq 0 <=> x[(m+2)x - m - 4 ] \leq 8, \forall x \in (0;3) <=> (m+2)x - m -4 \leq 8/x <=> mx - m \leq (8/x) - 2x + 4 <=> m(x-1) \leq (8 - 2x^{2} + 4x) / x <=> m\leq (8 - 2x^{2} + 4x) / (x^{2} - x), \forall x \in (0;3)Xét hàm số f(x)=(8 - 2x^{2} + 4x) / (x^{2} - x) với x \in (0;3) có f '(x)= (8 - 18x) /( x^{2} - x)^{2}Lại có f '(x)=0, x \in (0;3) <=> 8 - 18x = 0, x \in (0;3) <=> x = 8/18, x \in (0;3).Lập bảng biến thiên của hàm số trên (0;3) ta được m\leq f(0)= -1Đ/s: m \leq -1
Ta có: y'=(m+2)x^{2} - 2(m+2)x + m - 8 = mx^{2} + 2x^{2} - 2mx - 4x + m - 8 = x[(m+2)x - m - 4 ] - 8Hàm số đã cho nghịch biến trên (0;3) <=>y'\leq 0,\forall x \in (0;3) <=> x[(m+2)x - m - 4 ] - 8 \leq 0 <=> x[(m+2)x - m - 4 ] \leq 8, \forall x \in (0;3) <=> (m+2)x - m -4 \leq 8/x <=> mx - m \leq (8/x) - 2x + 4 <=> m(x-1) \leq (8 - 2x^{2} + 4x) / x <=> m\leq (8 - 2x^{2} + 4x) / (x^{2} - x), \forall x \in (0;3)Xét hàm số f(x)=(8 - 2x^{2} + 4x) / (x^{2} - x) với x \in (0;3) có f '(x)= (8 - 18x) /( x^{2} - x)^{2}Lại có f '(x)=0, x \in (0;3) <=> 8 - 18x = 0, x \in (0;3) <=> x = 8/18, x \in (0;3).Lập bảng biến thiên của hàm số trên (0;3) ta được m\leq f(0)= -1Đ/s: m \leq -1