Xét 1b−a2.(b+1)b(a2+ab+b2)=a+b−a2a2+ab+b2
⇒a2.(b+1)b(a2+ab+b2)=1b−a+b−a2a2+ab+b2=1b−a+ba2+ab+b2+a2a2+ab+b2
Ta có: VT=∑a2.(b+1)b.(a2+ab+b2)=(∑1a−∑a+ba2+ab+b2+∑a2a2+ab+b2)
+) Đặt M=∑a+ba2+b2+ab=∑a+b34.(a+b)2+14.(a−b)2≤∑a+b34.(a+b)2
⇒M≤43.∑1a+b≤43.∑14.(1a+1b)
⇒M≤23.(1a+1b+1c)
+) Đặt N=∑a2a2+ab+b2
Áp dụng Cauchy−Schwart ta có : N≥(a+b+c)22(a2+b2+c2)+ab+ac+bc=(a+b+c)22(a+b+c)2−3(ab+bc+ca)
⇒N≥(a+b+c)22.(a+b+c)2−9 (Do ab+bc+ca≥3√a2+b2+c2=3)
Do đó : VT≥∑1a−23.∑1a+(a+b+c)22.(a+b+c)2−9
VT≥13.∑1a+(a+b+c)22(a+b+c)2−9≥3a+b+c+(a+b+c)22(a+b+c)2−9=A
Ta sẽ chứng minh A≥6a+b+c⇔(a+b+c)22.(a+b+c)2−9≥3(a+b+c)
Đặt a+b+c=t. Cần chứng minh t22t2−9≥3t⇔(t−3)(t2−3t+9)≥0
Luôn đúng do t=a+b+c≥33√abc=3
Vậy bất đẳng thức được chứng minh. Dấu bằng khi a=b=c=1