解:
如圖,設|F1B|=k(k>0),則|AF1|=3|F1B|=3k
∴|AB|=4k,根據橢圓性質,得:
|AF2|=2a?3k,|BF2|=2a?k
∵cos∠AF2B=3/5,
在△ABF2中,由余弦定理得,
|AB|?=|AF2|?+|BF2|?2|AF2|?|BF2|cos∠AF2B
即(4k)?=(2a?3k)?+(2a?k)?6/5(2a?3k)(2a?k),
化簡可得(a+k)(a?3k)=0,而a+k>0,故a=3k,
∴|AF2|=|AF1|=a=3k,|BF2|=5k,
∴|BF2|?=|AF2|?+|AB|?,
∴AF1⊥AF2,
∴△AF1F2是等腰直角三角形
∴|AF2|?+|AF1|?=|F1F2|?,即a?+a?=(2c)?
∴c=√2/2a,
∴橢圓的離心率e=c/a=√2/2