【正确答案】 利用二元复合函数链式法则求二阶偏导数，代入所给等式中求出a，b．计算时，既可以将ξ，η视为中间变量，也可以将x，y视为中间变量，因此有两种解法．
解一 由复合函数的链式法则，视ξ，η为中间变量，x，y仍为自变量，得到

=(5a²+12a+4)+[10ab+12(a+b)+8]+(12b+4+5b²)=0．
由题设有
解方程①和方程②得到a=一2／5或一2，b=一2／5或一2，但当(a，b)为(一2，－2)或(一2／5，一2／5)时，方程③不满足，故所求的(a，b)为(一2／5，一2)或(一2，一2／5)．
解二 由题设易得到x=(aη一bξ)／(a－b)，y=(ξ一η)／(a一b)，因而可将x，y视为中间变量，将ξ，η视为自变量，得到

欲使=0，即一ab=0，应有
, 即 a=2，b=一 或 a=一