Olá paulo testoni. Eu resolvi aqui e encontrei a letra a) 8. Vou explicar o meu raciocínio (um pouco extenso...):

Primeiro, como a função é definida por x/4*(x-6)², eu coloquei (4-h) e (4+h) no lugar de x. Logo, ficamos com:

f(4+h)+f(4-h)
[(4+h)/4*(4+h-6)²]+[(4-h)/4*(4-h-6)²]
[(4+h)/4*(h-2)²]+[(4-h)/4*(-h-2)²]

Como (-h-2)² = (h+2)², e já desenvolvendo as potências...

[(4+h)/4*(h²-4h+4)]+[(4-h)/4*(h²+4h+4)]
[(4h²-16h+16+h³-4h²+4h+4h²+16h+16-h³-4h²-4h)/4]

Perceba que todas as incógnitas em h serão anuladas. Assim, só sobram os dois 16...

(16+16)/4 = 8.

Se o senhor souber a resposta e eu estiver errado, avise por favor.

Até mais!