【正确答案】由于所给的区域D是闭区域(包括边界),故属于混合型的情况。
先考虑函数f(x,y)在区域D内部{(x,y)|x
2+y
2<1}的极值,这属于无条件极值,
解线性方程组

得 x=0,y=0。
在(0,0)点,有 f”
xx=2>0,f”
xy=1,f”
yy=2,
因为 f”
xxf”
yy-f”
yy>0,
所以(0,0)点是函数的极小值点,极小值为f(0,0)=0。
再考虑函数f(x,y)在区域D的边界{(x,y)|x
2+y
2=1}上的极值,这是条件极值问题,作拉格朗日函数
L(x,y,t)=x
2+xy+y
2-t(x
2+y
2-1),
求偏导得方程组

将第一式乘以x,第二式乘以y然后相加,结合第三式得到
f(x,y)=t(x
2+y
2)=t。
由x
2+y
2=1可知,二元一次方程组

有非零解,故系数行列式等于零,即
4t
2-8t+3=0,
解得

。
由于连续函数在闭区间上必可取到最大值和最小值,故f(x,y)在边界上的最大值为

,最小值为

。
综上所述,f(x,y)在闭区域D上的最大值为
