本题考查宪法。

A项错误，根据《宪法》第五十六条规定：“中华人民共和国公民有依照法律纳税的义务。”只要是我国公民，就有依法纳税的义务，并不因其未参加工作，而免除该义务。

B项错误，根据《宪法》第四十九条第三款规定：“父母有抚养教育未成年子女的义务，成年子女有赡养扶助父母的义务。”高某，27岁，已经成年，对年老的父亲有赡养的义务。

C项错误，根据《宪法》第五十五条规定：“保卫祖国、抵抗侵略是中华人民共和国每一个公民的神圣职责。依照法律服兵役和参加民兵组织是中华人民共和国公民的光荣义务。”只有是中华人民共和国的公民，就有服兵役的义务，高某未完成学业也要承担该义务。

D项正确，根据《宪法》第四十二条规定：“中华人民共和国公民有劳动的权利和义务。国家通过各种途径，创造劳动就业条件，加强劳动保护，改善劳动条件，并在发展生产的基础上，提高劳动报酬和福利待遇。劳动是一切有劳动能力的公民的光荣职责。国有企业和城乡集体经济组织的劳动者都应当以国家主人翁的态度对待自己的劳动。国家提倡社会主义劳动竞赛，奖励劳动模范和先进工作者。国家提倡公民从事义务劳动。国家对就业前的公民进行必要的劳动就业训练。”高某未完成学业，未参加工作，不承担参加劳动的义务。

故正确答案为D。