设AE为x,则AE=AF=CG=CH=x,且0<x<1.5.ED=BG=1.5-x.FB=DH=a-x.则S△AEF=S△CHG=0.5x*x,S△EDH=S△BFG=0.5(a-x)(1.5-x)
则S四边形EFGH=S矩形ABCD-S△AEF-S△CHG-S△EDH-S△BFG=1.5a-2*0.5x*x-2*0.5(a-x)(1.5-x).然后算出S四边形EFGH=-2*[x-(3+2a)/8]*[x-(3+2a)/8]+(3+2a)*(3+2a)/32.
所以当x=(3+2a)/8时,S四边形EFGH有最大值,为(3+2a)*(3+2a)/32.