Jawaban:

Ada 2 kemungkinan, yaitu:

• f(x) = x – 6  atau  
• f(x) = 4 – x

Pembahasan

Komposisi Fungsi

(g ○ f)(x) = x² – 10x + 21,  g(x) = x² + 2x – 3

g(f(x)) = (g ○ f)(x)

⇔ (f(x))² + 2f(x) – 3 = x² – 10x + 21

⇔ (f(x))² + 2f(x) = x² – 10x + 21 + 3

⇔ (f(x))² + 2f(x) = x² – 10x + 24

(jadikan kuadrat sempurna, tambah 1 pada kedua ruas)

⇔ (f(x))² + 2f(x) + 1 = x² – 10x + 25

⇔ (f(x) + 1)² = (x – 5)²

(tarik akar)

⇔ f(x) + 1 = ± (x – 5)

⇔ f(x) = ± (x – 5) – 1

⇔ f(x) = x – 5 – 1   atau   f(x) = –(x – 5) – 1

⇔ f(x) = x – 6   atau   f(x) = –x + 5 – 1

⇔ f(x) = x – 6   atau   f(x) = 4 – x

Verifikasi

Jika f(x) = x – 6:

⇒ (g ○ f)(x) = (x – 6)² + 2(x – 6) – 3

⇔ (g ○ f)(x) = x² – 12x + 36 + 2x – 12 – 3

⇔ (g ○ f)(x) = x² – 10x + 21  ← benar

Jika f(x) = 4 – x:

⇒ (g ○ f)(x) = (4 – x)² + 2(4 – x) – 3

⇔ (g ○ f)(x) = 16 – 8x + x² + 8 – 2x – 3

⇔ (g ○ f)(x) = x² – 10x + 21  ← benar

∴  Dengan demikian, ada 2 kemungkinan solusi, yaitu:

• f(x) = x – 6  atau  
• f(x) = 4 – x.