Chọn B
Ta có: \(OO'\bot \left(OAB\right).\) Gọi H là trung điểm của AB
thì \(OH\bot AB,{\rm \; }O'H\bot AB\Rightarrow \widehat{OHO'}=60{}^\circ .\)
Giả sử OH=x. Khi đó: 0\(OO'=x\tan 60{}^\circ =x\sqrt{3} .\)
Xét \(\Delta OAH\), ta có: \(AH^{2} =R^{2} -x^{2} .\)
Vì \(\Delta O'AB \) đều nên: \(O'A=AB=2AH=2\sqrt{R^{2} -x^{2} } {\rm \; }\left(1\right).\)
Mặt khác,\( \Delta AOO'\) vuông tại O nên:
\(AO'^{2} =OO'^{2} +R^{2} =3x^{2} +R^{2} {\rm \; }\left(2\right). \)
Từ \(\left(1\right),\left(2\right)\Rightarrow 4\left(R^{2} -x^{2} \right)=3x^{2} +R^{2} \Rightarrow x^{2} =\frac{3R^{2} }{7} .\)