【正确答案】 D

【答案解析】选项A，
(AB^-1)^TAB^-1=(B^-1)^TA^TAB^-1=(B^-1)^TEB^-1=(B^T)^TB^T=BB^T=E，AB^-1是正交矩阵；选项B，(kA)^T(kA)=k²A^TA=E，kA(｜k｜=1)是正交矩阵；选项C，
(A^-1B^-1)^TA^-1B^-1=(B^-1)^T(A^-1)^TA^-1B^-1=BAA^-1B^-1=E．A^-1B^-1是正交矩阵，所以排除A、B、C．因
(A-B)^T=A^T-B^T=A^-1-B^-1．
故 (A-B)^T(A-B)=(A^-1-B^-1)(A-B)=2E-B^-1A-A^-1B≠E，
故选D．