《中华人民共和国行政处罚法》第九条规定，“法律可以设定各种行政处罚。限制人身自由的行政处罚，只能由法律设定”。A项错误。第二十四条规定，“对当事人的同一个违法行为，不得给予两次以上罚款的行政处罚”。B项错误。第二十九条规定，“违法行为在二年内未被发现的，不再给予行政处罚。法律另有规定的除外”。C项正确。第七条规定，“公民、法人或者其他组织因违法受到行政处罚，其违法行为对他人造成损害的，应当依法承担民事责任。违法行为构成犯罪，应当依法追究刑事责任，不得以行政处罚代替刑事处罚”。D项错误。第二十条规定，“行政处罚由违法行为发生地的县级以上地方人民政府具有行政处罚权的行政机关管辖。法律、行政法规另有规定的除外”。E项正确。故本题选CE。