因为α^2+α+β^2+β=αβ+α+β+1,
所以α^2+β^2-αβ-1=0,
所以(α+β)^2-3αβ-1=0①,
α+β=-a-b,αβ=4ab/3,
代入①得(a+b)^2-4ab-1=0,
所以(a-b)^2=1,
a-b=±1,
而a>b,
所以a-b=1,所以a=b+1,
在原方程中,△=9(a+b)^2-4×4ab×3≥0,
整理,并把a=b+1代进去可知4b^2+4b≤3,
两边加1 并用平方和公式知:
(2b+1)^2≤4;
所以-2≤2b+1≤2,
而b为整数,
b=-1或0,
当b=-1时,
a=0,
代回去没有问题,
b=0,a=1也没问题,
所以(a,b)=(0,-1)或(1,0).