Mình xin trình bày lời giải bài này như sau:

Đặt \(\widehat{BAC}=\alpha\) và \(AB=r\)

Khi đó ta có: \(tan(\alpha)=\frac{x}{r}(1)\) và \(\widehat{DAF}=\pi - 2\alpha\)

\(\implies tan(\widehat{DAF})=tan(\pi - 2\alpha)=\frac{FD}{AD}\implies FD=AD*tan(\pi - 2\alpha)=r*tan(\pi - 2\alpha)\)

\(\implies FC=FD+DC= x + r*tan(\pi - 2\alpha)\) (Do \(CB,CD\) lần lượt là tiếp tuyến của đường tròn \((A,r)\) nên \(CB=CD=x\))

Hay \(y=x+r*tan(\pi - 2\alpha)=x-r*tan(2\alpha)(2)\) (Do \(tan(\pi - 2\alpha)=-tan(2\alpha)\) và \(FC=y\))

Từ \((1)\) và \((2)\), ta có:

\(\left\{\begin{matrix} x=r*tan(\alpha) \\ y=x-r*tan(2\alpha) \end{matrix}\right.\)

\(\iff \left\{\begin{matrix} tan(\alpha)=\frac{x}{r} \\ tan(2\alpha)=\frac{x-y}{r} \end{matrix}\right.\)

Mặt khác ta lại có: \(tan(2\alpha)=\frac{2tan(\alpha)}{1-tan(\alpha)^2}\)

Nên từ đây ta suy ra được: \(\frac{x-y}{r}=\frac{\frac{2x}{r}}{1-\frac{x^2}{r^2}}\iff \frac{x-y}{r}=\frac{2xr}{r^2-x^2}\iff (x-y)(r^2-x^2)=2xr^2\)

\(\iff (x-y)r^2-(x-y)x^2=2x*r^2\iff (y-x)x^2=r^2(x+y)\iff r^2=\frac{(y-x)x^2}{x+y}\iff r=x\sqrt{\frac{y-x}{x+y}}\)

Suy khi tìm được \(r\), ta dễ dàng tìm được \(\alpha = arctan(\frac{x}{r})\)

Tiếp theo ta sẽ đi tính diện tích cung tròn \(AED\)

Ta có: \(\widehat{EAD}=\pi-2\alpha\). Do đó: \(S_{\text{cung}(AED)}= \frac{r^2(\pi-2\alpha)}{2}\)

Vậy \(S_{\text{cần tìm}}=S_{FBC}-2S_{ABC}-S_{\text{cung}(AED)}=\frac{1}{2}\sqrt{y^2-x^2}*x - 2*\frac{1}{2}*r*x-\frac{r^2(\pi-2\alpha)}{2}\)

\(=\frac{1}{2}\sqrt{y^2-x^2}*x - r*x-\frac{r^2(\pi-2\alpha)}{2}\)

Và công việc còn lại chỉ là thế số.

Như vậy là bài toán đã được giải quyết xong.