(1).设焦距为2c,则c^2=6-2=4,c=2,左焦点为F(-2,0),
由点斜式设直线AB方程为y=k(x+2),代入椭圆E的方程x^2+3y^2=6,整理得
(3k^2+1)x^2+12(k^2)x+6(2k^2-1)=0,
设A,B坐标分别为(x1,y1)(x2,y2),则由根与系数关系得
x1+x2=-12k^2/(3k^2+1) ①,
x1x2=6(2k^2-1)/(3k^2+1) ②,
点A,B在直线AB上,
则y1=k(x1+2) ③,
y2=k(x2+2) ④,
由斜率公式得直线MA斜率kMA=y1/(x1+3),
直线MB斜率kMB=y2/(x2+3),
要证角AMF=角FMB,只要证tan角AMF=tan角FMB,
不妨设A在x轴上方,B在x轴下方,则直线MA倾斜角为角AMF,直线MB倾斜角为180°-角FMB
直线MA斜率kMA=tan角AMF=y1/(x1+3),直线MB斜率kMB=tan(180°-角FMB)=-tan角FMB=y2/(x2+3),
只要证y1/(x1+3)=-y2/(x2+3),
即证y1/(x1+3)+y2/(x2+3)=0,
通分得[y1(x2+3)+y2(x1+3)]/[(x1+3)(x2+3)]=[y1x2+y2x1+3(y1+y2)]/[(x1+3)(x2+3)]
把①②③④代入其中得分子为
y1x2+y2x1+3(y1+y2)=k(x1+2)x2+k(x2+2)x1+3k(x1+x2+4)=k[2x1x2+5(x1+x2)+12]
=k[12(2k^2-1)-60k^2+12(3k^2+1)]/(3k^2+1)=0,
所以y1/(x1+3)=-y2/(x2+3),tan角AMF=tan角FMB,角AMF=角FMB
(2).|MF|=3-2=1,△MFA,△MFB的边MF上的高分别为|y1|,|y2|,
三角形MAB面积S=S△MFA+S△MFB=(1/2)|MF|×|y1-y2|=|y1-y2|/2=|k(x1+2)-k(x2+2)|/2=|k||x1-x2|/2
=|k|√[(x1-x2)^2]/2=√[(k^2)(x1+x2)^2-4x1x2]/2,把①②代入其中得S=|k|√[24(1+k^2)]/[2(3k^2+1)
=√[6(k^2)(1+k^2)/(3k^2+1)]
=√[6(1/k^2+1)/(3+1/k^2)]
=√[6(1/k^2+1)/(3+1/k^2)]
=√{-12[1/(3+1/k^2)-1/4]^2+3/4}(变形配方得到)
当1/(3+1/k^2)-1/4=0,即3+1/k^2=4,k^2=1,k=±1时,S取最大值(√3)/2