Chọn C
Gọi O là tâm hình vuông ABCD.
Giả sử đặt \(AB=x\Rightarrow SO=\sqrt{11a^{2} -\frac{x^{2} }{2} } .\)
Kẻ\( OK\bot SC,BD\bot \left(SAC\right)\Rightarrow \left(DKB\right)\bot SC\Rightarrow DK\bot SC,BK\bot SC,DK=BK.\)
\(\Delta SBC\)cân tại S, H là trung điểm BC.\( \Rightarrow SH=\sqrt{SO^{2} +OH^{2} } =\sqrt{11a^{2} -\frac{x^{2} }{2} +\left(\frac{x}{2} \right)^{2} } =\sqrt{11a^{2} -\frac{x^{2} }{4} } .\)
\(\Delta SBC \)có:
\(\[SH.BC=BK.SC\Rightarrow BK=\frac{SH.BC}{SC} =\frac{x\sqrt{44a^{2} -x^{2} } }{2a\sqrt{11} } .\] \)
\(\[\cos \left(\widehat{\left(SBC\right),\left(SDC\right)}\right)=\cos \left(\widehat{DKB}\right)=\left|\frac{DK^{2} +BK^{2} -BD^{2} }{2DK.BK} \right|=\left|\frac{-x^{4} }{44x^{2} a^{2} -x^{4} } \right|=\frac{1}{10} \] \)
\(\[\Leftrightarrow \left[\begin{array}{l} {\frac{x^{4} }{44x^{2} a^{2} -x^{4} } =\frac{1}{10} } \\ {\frac{x^{4} }{44x^{2} a^{2} -x^{4} } =-\frac{1}{10} } \end{array}\right. \Leftrightarrow \left[\begin{array}{l} {x=2a} \\ {x^{2} =-44a^{2} (loai)} \end{array}\right. \] \)
Vậy \(V_{S.ABCD} =\frac{1}{3} .\left(2a\right)^{2} .\sqrt{11a^{2} -\frac{4a^{2} }{2} } =4a^{3} .\)