Karena PQRS adalah persegi panjang (dibentuk dari jarak yang sama dari titik sudut yaitu x cm) maka rumus luasnya (untuk f(x) = y = luas) :

Luas = luas ABCD -2 siku siku panjang -2 siku siku pendek

Luas = (12 × 8) -(x (12 -x)) -(x (8 -x))

Luas = 96 -(12x -x²) -(8x -x²)

Luas = 96 -12x + x² -8x + x²

Luas = 2x² -20x + 96 <=> maka :

f(x) = 2x² -20x + 96

sesuai aturan diferensial, luas titik terkecil/minimum dari fungsi naik didapat bila f'(x) = 0

f'(x) = 0

(2)2x^(2 -1) -(1)20x^(1 -1) + (0)96x^(0 -1) = 0

4x -20 = 0

4x = 20

x = 5

masukan saja ke rumus luasnya :

L = 2x² -20x + 96

L = 2(5)² -20(5) + 96

L = 2(25) -100 + 96

L = 50 -4

L = 46 cm² <= opsi B