【正确答案】首先去掉取整符号，写出被积函数的具体分区域的表达式，再将积分区域D分成两部分，最后利用极坐标计算．
去掉取整符号将被积函数分块表示：
xy[1+x²+y²]=
相应地，D也分成两块D=D₁∪D₂，其中
D₁={(x，y)∣x²+y²＜1，z≥0,y≥0)，D₂={(x，y)∣1≤x²+y²≤√2，x≥0，y≥0)，
作极坐标变换．因r==(√2)^1/2=2^1/4，有
D₁={(r，θ)∣0≤θ≤π／2，0≤r≤1)，D₂={(r，θ)∣0≤θ≤π／2，0≤r≤2^1/4)，
则xy[1+x²+y²]dxdy=xydxdy+2xydxdy
=∫₀^π/2dθ∫₀¹r²cosθsinθ．rdr+2∫₀^π/2dθ∫₁^21/4r²cosθsinθ·rdr
=∫₀^π/2cosθsinθdθ·r⁴∣₀¹+2∫₀^π/2cosθsinθdθ·