Olá Tato

Para resolver esta questão devemos ter um insight ao vê-la.
Temos que enxergar a relação entre dois termos da equação. A relação é a seguinte:

[ a + (a^2 + 1)^1/2 ]^X/2 = [ -a + (a^2 + 1)^1/2 ]^(-X/2)

Esta relação não é dada no enunciado, você que deve ver que existe (esta é a dificuldade da questão).

Agora vamos para resolução propriamente dita.
Chamaremos [ a + (a^2 + 1)^1/2 ]^X/2 = K, portanto:

[ -a + (a^2 + 1)^1/2 ]^X/2 = 1/K

Assim, podemos rescrever a equação do enunciado como sendo:

K + 1/K = 2 (a^2 + 1)^1/2

Multiplicando ambos os lados por K e arrumando a equação do segundo grau resultante, teremos:

K² - [2 (a^2 + 1)^1/2]K + 1 = 0

Aplicando Báscara teremos como resposta:

K = (a^2 + 1)^1/2 ± a

Agora podemos substituir cada valor de K encontrado na definição que demos para K:

[ a + (a^2 + 1)^1/2 ]^X/2 = K
[ a + (a^2 + 1)^1/2 ]^X/2 = (a^2 + 1)^1/2 + a
X = 2

[ a + (a^2 + 1)^1/2 ]^X/2 = K
[ a + (a^2 + 1)^1/2 ]^X/2 = (a^2 + 1)^1/2 - a
[ a + (a^2 + 1)^1/2 ]^X/2 = [(a^2 + 1)^1/2 + a]^(-1)
X = -2

É pedido a soma dos quadrados das raizes:

2^2 + (-2)^2 = 8