【正确答案】 B、C、E

【答案解析】行政复议、行政诉讼和行政赔偿都是行政救济的手段，故B项、C项、E项正确。没有经过行政复议或诉讼的撤销，已作出的行政处罚决定仍是有效的，相对人不得拒绝履行，这也是维护法律尊严的要求，故A项错误。行政领域没有仲裁制度，D项错误。