【答案解析】[解] 这是闭区域上求最值的问题.由于函数f(x,y)=x+xy-x
2-y
2在闭区域D上连续,所以一定存在最大值和最小值.
首先求f(x,y)=x+xy-x
2-y
2在闭区域D内部的极值:
令

解得区域D内部唯一的驻点为

.又

得f(x,y)=x+xy-x
2-y
2在闭区域D内部的极大值

再求f(x,y)在闭区域D边界上的最大值与最小值:
这是条件极值问题,边界直线方程即为约束条件.
在x轴上约束条件为y=0(0≤x≤1),于是拉格朗日函数为
F(x,y,λ)=x+xy-x
2-y
2+λy,
解方程组

得可能的极值点

,其函数值为

在下面边界的端点(0,0),(1,0)处f(0,0)=0,f(1,0)=0,所以下面边界的最大值为

,最小值为0.
同理可求出:
在上面边界上的最大值为-2,最小值为-4;
在左面边界上的最大值为0,最小值为-4;
在右面边界上的最大值为

,最小值为-2.
比较以上各值,可知函数f(x,y)=x+xy-x
2-y
2在闭区域D上的最大值为
