解答题
函数f(x)在(a，b)上称为凹的(凸的)，如果对此区间中任意两点x1，x2以及任意数λ1，λ2(λ1＞0，λ2＞0，且λ1+λ2=1)有不等式
f(λ1x1+λ2x2)＜λ1f(x1)+λ2f(x2) [或f(λ1x1+λ2x2)＞λ1f(x1)+λ2f(x2)]，
试证：(1)若a＜x＜b时，f"(x)＞0，则函数于(a，b)内为凹的；
(2)若a＜x＜b时，f"(x)＜0，则函数于(a，b)内为凸的．
f(λ1x1+λ2x2)＜λ1f(x1)+λ2f(x2) [或f(λ1x1+λ2x2)＞λ1f(x1)+λ2f(x2)]，
试证：(1)若a＜x＜b时，f"(x)＞0，则函数于(a，b)内为凹的；
(2)若a＜x＜b时，f"(x)＜0，则函数于(a，b)内为凸的．
【正确答案】
【答案解析】[证] 设λ1＞0，λ2＞0，且λ1+λ2=1，又x1，x2∈(a，b)，x1＜x2．
因为x1+λ2(x2-x1)=λ1x1+λ2x2=x2+λ1(x1-x2)，
所以x1＜λ1x1+λ2x2＜x2．
由拉格朗日中值定理可知
f(λ1x1+λ2x2)-f(x1)=λ2(x2-x1)f'(ξ1)， (x1＜ξ1＜λ1x1+λ2x2) ①
f(x2)-f(λ1x1+λ2x2)=λ1(x2-x1)f'(ξ2)， (λ1x1+λ2x2＜ξ2＜x2) ②
①×λ1-②×λ2得
(λ1+λ2)f(λ1x1+λ2x2)=λ1f(x1)+λ2f(x2)+λ1λ2(x2-x1)[f'(ξ1)-f'(ξ2)]
因为x1+λ2(x2-x1)=λ1x1+λ2x2=x2+λ1(x1-x2)，
所以x1＜λ1x1+λ2x2＜x2．
由拉格朗日中值定理可知
f(λ1x1+λ2x2)-f(x1)=λ2(x2-x1)f'(ξ1)， (x1＜ξ1＜λ1x1+λ2x2) ①
f(x2)-f(λ1x1+λ2x2)=λ1(x2-x1)f'(ξ2)， (λ1x1+λ2x2＜ξ2＜x2) ②
①×λ1-②×λ2得
(λ1+λ2)f(λ1x1+λ2x2)=λ1f(x1)+λ2f(x2)+λ1λ2(x2-x1)[f'(ξ1)-f'(ξ2)]