Vamos lá:

Achando a altura do retângulo:

O ponto "C" pertence a s (y= 2x + 6)

Se B = (b,0), então C = (b, -2b+6)  {Note que "B" e "C" possuem a mesma abcissa}

Observe que a altura do retângulo vai do eixo x até "C", ou seja, exatamente o valor da abcissa de "C".   Daí altura do retângulo: h = -2b+6

Achando a base do retângulo:

Se A = (a,0) e C = (b, -2b+6) , então D = (a, -2b + 6)

Como "D" pertence a r (y = x + 4), então a + 4 =  -2b + 6

a = -2b + 2, Daí D= (-2b + 2, -2b + 6)

A base do retângulo será a distância da origem até B (dado pela abcissa de B) mais a distância da origem até A (dado pelo simétrico da abcissa de A).

Base = b +(-1) a

Base = b +(-1)(-2b+2)

Base = b + 2b -2

Base = 3b - 2

Área do Retângulo = Base x altura

Área do Retângulo = (3b - 2) x (-2b+6)  ou   (-6b² + 22b - 12)