Untuk menentukan nilai a.b dan udut antara vektor a dan b, pertama-tama perlu menentukan nilai skalar dari a.b. Nilai skalar a.b dapat dicari dengan menggunakan rumus:

a.b = |a|.|b|.cos(θ)

dimana:

|a| adalah magnitudo vektor a

|b| adalah magnitudo vektor b

θ adalah udut antara vektor a dan b

Untuk menentukan magnitudo vektor a dan b, dapat menggunakan rumus:

|a| = √(a.i² + a.j² + a.k²)

|b| = √(b.i² + b.j² + b.k²)

Berdasarkan data yang diberikan, magnitudo vektor a adalah:

|a| = √(5² + 4² + 2²)

= √(25 + 16 + 4)

= √45

= 3,87

Sedangkan magnitudo vektor b adalah:

|b| = √(4² + (-5)² + 3²)

= √(16 + 25 + 9)

= √50

= 7,07

Setelah magnitudo vektor a dan b ditentukan, selanjutnya dapat menentukan nilai skalar a.b dengan menggunakan rumus di atas:

a.b = |a|.|b|.cos(θ)

= 3,87 . 7,07 . cos(θ)

Untuk menentukan udut antara vektor a dan b, dapat menggunakan rumus:

cos(θ) = a.b / |a|.|b|

Dengan menggabungkan kedua rumus di atas, dapat diperoleh:

cos(θ) = (a.b) / (|a|.|b|)