Feito por Bruno Bonagura

Não sei se é o meio mais fácil, mas vou fazer assim:

Encontremos a eq. da reta suporte da outra diagonal, que é perpendicular à primeira e à intercepta no ponto médio.

O ponto médio é (5, 4) e o coeficiente angular de AB é m = (2 - 6)/(8 - 2) = -2/3. Portanto o coeficiente angular da outra diagonal será m' = 3/2.

y - yo = m'(x - xo)
y - 4 = 3(x - 5)/2
y = (3x - 7)/2

Os outros dois vértices do quadrado serão as intersecções dessa reta com a circunferência de centro no ponto médio de AB e raio com a metade da medida de AB.

AB = √[(2 - 8)² + (6 - 2)²]
AB = √(36 + 16)
AB = 2√13

Portanto a eq da circunferência é:

(x - 5)² + (y - 4)² = 13

Substituindo...

(x - 5)² + [(3x - 7)/2 - 4]² = 13

(x - 5)² + [(3x - 15)/2]² = 13
4x² - 40x + 100 + 9x² - 90x + 225 = 52
13x² - 130x + 273 = 0
x² - 10x + 21 = 0
x = 7 ... y = (3.7 - 7)/2 = 7
ou
x = 3 ... y = (3.3 - 7)/2 = 1

Os outros vertices são (7,7) e (3,1)