Acredito que o que você queria escrever no enunciado era (tg²x +1) / (cotg²x +1) e não a mesma coisa sem os parênteses (há muita diferença na omissão deles).
Para resolver, vamos substituir tan(x) por sen(x)/cos(x) e cotg(x) por cos(x)/sen(x)
[sen²(x)/cos²(x) +1] / [cos²(x)/sen²(x) +1]
Agora vamos efetuar a soma de frações no denominador e numerador da fração principal: