由椭圆M:x²/9+y²=1知,右定点C坐标为(3,0)
因A、B都在椭圆上,
故可设A(3sinα,cosα),B(3sinβ,cosβ)
因以AB为直径的圆过椭圆的右顶点C
故AC垂直于BC
由于直线AC的斜率k1=(cosα-3)/3sinα,直线BC的斜率k2=(cosβ-3)/3sinβ
故k1k2=-1
即[(cosα-3)/3sinα]•[(cosβ-3)/3sinβ]=-1
整理得cosαcosβ-3(cosα+cosβ)+9sinαsinβ+9=0……(1)
三角形ABC的面积S=|AC|•|BC|/2,
4S²=(AC²)(BC²)
=[(3sinα-3)²+cos²α]•[(3sinβ-3)²+cos²β]
以下需要你自己去计算了,思路是:先整理上式,再利用(1)消去一个变量,通过对一元函数分析求解.