x^2 - ax - 2a - 5 = 0

Дискриминант уравнения:

D = a^2 - 4*1(-2a-5) = a^2 + 8a + 20

Так как у нас два корня, то должно быть D > 0

a^2 + 8a + 20 > 0

Дискриминант условия:

D1 = 8^2 - 4*1*20 = 64 - 80 = -16 < 0

Значит, дискриминант уравнения D > 0 при любых а, и корней всегда будет два.

x1 = (a - √(a^2 + 8a + 20))/2

x1^2 = (a^2 - 2a√(a^2 + 8a + 20) + a^2 + 8a + 20)/4 = (a^2 - a√(a^2 + 8a + 20) + 4a + 10)/2

x2 = (a + √(a^2 + 8a + 20))/2

x2^2 = (a^2 + 2a√(a^2 + 8a + 20) + a^2 + 8a + 20)/4 = (a^2 + a√(a^2 + 8a + 20) + 4a + 10)/2

Сумма квадратов корней:

x1^2 + x2^2 = (2a^2 + 8a + 20)/2 = a^2 + 4a + 10

Эта сумма должна быть наименьшей. Это будет вершина параболы:

a0 = -4/2 = -2 - при таком значении а будет минимальная сумма квадратов корней:

x1^2 + x2^2 = (-2)^2 + 4(-2) + 10 = 4 - 8 + 10 = 6

Ответ: -2