【正确答案】 A

【答案解析】解析：《宪法》和《中华人民共和国人民检察院组织法》(简称《人民检察院组织法》)都规定，人民检察院是国家的法律监督机关。故A说法正确。根据《宪法》和《人民检察院组织法》规定，人民检察院的领导体制实行双重从属制，即最高人民检察院领导地方各级人民检察院和专门人民检察院的工作，上级人民检察院领导下级人民检察院的工作。故C说法错误。人民法院和人民检察院属于司法机关，不属于行政机关，故、B说法错误。《刑事诉讼法》第18条规定，刑事案件的侦查由公安机关进行，法律另有规定的除外。贪污贿赂犯罪，国家工作人员的渎职犯罪，国家机关工作人员利用职权实施的非法拘禁、刑讯逼供、报复陷害、非法搜查的侵犯公民人身权利的犯罪以及侵犯公民民主权利的犯罪，由人民检察院立案侦查。对于国家机关工作人员利用职权实施的其他重大犯罪案件，需要由人民检察院直接受理的时候，经省级以上人民检察院决定，可以由人民检察院立案侦查。而不是所有刑事案件，选项D说法错误。故本题答案选A。