本题考查行政法常识。

《行政处罚法》第三十四条第三款规定：“执法人员当场作出的行政处罚决定，必须报所属行政机关备案。”因此，适用简易程序当场作出的行政处罚决定，必须报所属行政机关备案。

故表述正确。