(1)在R上任取x1,x2,且x1>x2
令a=0,知f(0)=1
令b=-a ,知f(0)=f(a)× f(-a)=1;即:f(a)=1/f(-a)……①
∵当x>0时,0<f(x)<1,
∴由①知,当x1,
综上:f(0)=1;当x>0时,0<f(x)<1,当x1,即R上f(x)>0恒成立……②
∵ x1=(x1-x2)+x1
∴ f(x1)=f[(x1-x2)+x1]
=f(x1-x2)× f(x2)
∴ f(x1)/ f(x2)=f(x1-x2)……③
∵当x>0时,0<f(x)<1,且此时x1-x2>0
∴0< f(x1-x2)<1
∴由③知0< f(x1)/ f(x2)<1,又由②知
∴ f(x1)< f(x2)
由于x1>x2
∴f(x)在R上为减函数
(2) ∵f(1)=1/2
∴f(1+1)=f(1)*f(1)
∴f(2)=f(1)*f(1)=1/4
于是f(kx²-5kx+6k)*f(-x²+6x-7)>1/4 化为:
f[(kx²-5kx+6k+(-x²+6x-7)]>f(2)
由(1)f(x)在R上为减函数知:
(kx²-5kx+6k+(-x²+6x-7)1时
*式化为:(x-3)[x-(3-2k)/(k-1)]3,即:1