Lần lượt tính:$(1+\sqrt{2})^2=3+2\sqrt{2}$$(1+\sqrt{2})^3=7+5\sqrt{2}$
Thay $x=1+\sqrt{2}$ vào phương trình và rút gọn thì được:
$7+5\sqrt{2}+a(3+2\sqrt{2})+b+1=0$
$\Rightarrow -(7+3a+b+1)=\sqrt{2}(5+2a)$
Do a,b là số hữu tỉ nên $5+2a=0\Rightarrow a=\frac{-5}{2};b=\frac{-1}{2}$
Từ đó PT trở thành:$x^3-\frac{5}{2}x^2+\frac{1}{2}=0$
PT này có các nghiệm $x=1\pm \sqrt{2};x=\frac{1}{2}$