При k=1 получаем x\leq 20-\frac{y}{1}, то есть x+y\leq 20.

Если заклятие есть: U_з(x, \ y)=100-(y-12)^2-(x-8)^2.

Если заклятия нет: U_{бз}(x, \ y)=100-(x-12)^2-(y-8)^2.

Если подставить x\leq 20-\frac{y}{1} в выражения прибыли, то получим:

U_з(y) \leq 100 - (y-12)^2 - ((20-y)-8)^2 = -2y^2 + 48y - 188

U_{бз}(y) \leq 100 - ((20-y)-12)^2 - (y-8)^2 = -2y^2 + 32y - 28

Заметим, что итоговой полезностью знахаря будет нижняя огибающая этих двух парабол, тогда график этих двух парабол будет иметь следующий вид:

Свой максимум нижняя огибающая достигает в точке пересечения двух парабол:

-2y^2+48y-188=-2y^2+32y-28

y=10

Так как точка максимальной полезности находится на параболах, для нахождения оптимального x можно считать, что полученное ранее неравенство в данном случае равенство: x=20-y=10

Оптимальную точку x=y=10 можно было также и угадать, но в таком случае необходимо привести доказательство того, что при таких значениях действительно достигается максимальное значение полезности: пусть x=10+a, тогда y=10-a. В таком случае полезность будет равна U_з(x, \ y)=100-(-2-a)^2-(2+a)^2 или U_{бз}(x, \ y)=100-(-2+a)^2-(2-a)^2. Перепишем по-другому и получим U_з(x, \ y)=100-8-8a-2a^2 или U_{бз}(x, \ y)=100-8+8a-2a^2.

Тогда, если a>0, то дух выберет U_з(x, \ y)=92-8a-2a^2<92, если же a<0, то дух выберет U_{бз}(x, \ y)=100-8+8a-2a^2<92, а значит, x=y=10 и U=92 это оптимум.

Ответ: x=y=10.