计算行列式：

因为矩阵A与矩阵B相似，根据相似矩阵行列式相等的性质，可得：6a－8＝2b。
已知矩阵B的特征值为1，2，b，由于矩阵A与矩阵B相似，所以矩阵A的特征值也为1，2，b。
矩阵A的特征多项式为：

将λ＝1代入特征多项式：－1×[（1－a）×（－2）－4]＝0，则可得a＝3，b＝5。