【正确答案】
【答案解析】[证] 必要性.
设BTAB为正定矩阵,则对任意的实n维列向量x≠0,有xT(BTAB)x>0,
即(Bx)TA(Bx)>0,必有Bx≠0,即Bx=0只有零解.
从而r(B)=n.
充分性.
因(BTAB)T=BTATB=BTAB,故BTAB为实对称矩阵.
若r(B)=n,则方程组Bx=0只有零解.
从而对任意实n维列向量x≠0有Bx≠0.
因为A为正定矩阵,所以对于Bx≠0,
有(Bx)TA(Bx)>0.
于是当x≠0时,xT(BTAB)x>0,故BTAB为正定矩阵.