由y=(a+3sinx+cosx)/(1+sinx+2cosx)得
a+3sinx+cosx=y+ysinx+2ycosx,
∴(3-y)sinx+(1-2y)cosx=y-a,
设m=√[(3-y)^2+(1-2y)^2]=√(10-10y+5y^2),
则msin(x+t)=y-a,
sin(x+t)=(y-a)/m,
∴|(y-a)/m|≤1,
∴y^2-2ay+a^2≤m^2,
4y^2+(2a-10)y+10-a^2≥0,
这个关于y的不等式的解集是(-∞,-1]∪[3/2,+∞).
由韦达定理,(10-2a)/4=3/2-1,且(10-a^2)/4=-3/2,
∴a=4.