由|OP|=|AB|,知x^2+y^2=a^2+b^2
由P(x,y)且向量OP+向量OQ=0向量知Q(-x,-y),
(1)
AP=(x-a,y),BQ=(-x,-y-b),
向量AP·向量BQ=(x-a)(-x)+y(-y-b)=-x^2+ax-y^2-by=ax-by-(a^2+b^2)
(2)
向量AP·向量BQ=ax-by-(a^2+b^2)
=ax+b(-y)-(a^2+b^2)
≤(a^2+x^2)/2+[b^2+(-y)^2]/2-(a^2+b^2)
= (a^2+b^2)/2+(x^2+(-y)^2 )/2-(a^2+b^2)
=(a^2+b^2)/2+(a^2+b^2 )/2-(a^2+b^2)
=0
当且仅当x=a、y=-b时,向量AP·向量BQ的最大值为0