(1)令a=b=0,则F(0)=2F(0)-1即F(0)=1
令a=x,b=-x,则F(x-x)=F(x)+F(-x)-1=F(0),即-F(x)=F(-x)-2;
令 x1,x2∈R,x2>x1,x2-x1>0
F(x2)- F(x1)= F(x2)+ F(-x1)-2= F(x2-x1)-1;
因为当X>0时,F(X)>1;
x2-x1>0, F(x2-x1)>1
所以 F(x2)> F(x1)
故F(X)为R上的增函数;
(2)F(4)=5,即F(4)=F(2+2)=2F(2)-1=5
F(2)=3;
F(3m^2-m-2)<3=F(2)
F(X)为R上的增函数
所以3m^2-m-2