Misalkan suku pertama deret aritmetika adalah a dan beda deret aritmetika adalah b. Maka suku ke-2 adalah a+b dan suku ke-5 adalah a+4b.

Kita tahu bahwa tiga suku berurutan dari deret aritmetika merupakan tiga suku berurutan dari deret geometri. Dengan demikian, suku ke-2 dan suku ke-5 dapat ditulis sebagai ar dan ar^2, dengan r adalah rasio deret geometri.

Kita juga tahu bahwa jumlah ketiga suku itu adalah 26, sehingga:

a + (a+b) + (a+4b) = 26

3a + 5b = 26

Kita eliminasi variabel a dengan mengurangi persamaan untuk suku ke-5 dengan persamaan untuk suku ke-2, sehingga:

(a+4b) - (a+b) = ar^2 - ar

3b = ar^2 - ar

3b = ar(r-1)

Kita kembali ke persamaan awal dan substitusikan nilai a = ar - b, sehingga:

(ar-b) + (ar) + (ar+3b) = 26

3ar + 2b = 26

Dengan menggabungkan persamaan ini dengan persamaan sebelumnya, kita dapat menyelesaikan untuk r:

3ar + 2b = 26

3b = ar(r-1)

Substitusikan 3b = ar(r-1) ke dalam persamaan pertama:

3ar + 2(ar(r-1)/(r-1)) = 26

3ar(r-1) + 2ar = 26(r-1)

3ar^2 - ar = 24r - 26

Kita dapat menyelesaikan persamaan ini untuk r menggunakan metode faktorisasi, yaitu dengan mencari dua faktor yang perkaliannya adalah -26 dan jumlahnya adalah -1. Faktor-faktor ini adalah -13 dan 2, sehingga:

3ar^2 - ar - 24r + 26 = 0

(3r-2)(r-13) = 0

Karena rasio haruslah positif, maka r = 2/3. Oleh karena itu, jawabannya adalah 2/3.