Sabiendo que |A| = |B| =1 (por ser vectores unitarios) y que |v|² = v • v:

|A + B| = √3

|A + B|² = 3

(A + B) • (A + B) = 3

A  • (A + B) + B • (A + B) = 3

A • A + A • B + A • B + B • B = 3

|A|² + 2 A • B + |B|² = 3

1² + 2 A • B + 1² = 3

2 A • B = 1

A • B = 1/2

Luego:

(4A − 3B) • (3A − 5B) = 

4A • (3A − 5B) − 3B • (3A − 5B) = 

4A • 3A − 4A • 5B − 3B • 3A − 3B • 5B =

12 A • A − 20 A • B − 9 A • B − 15 B • B =

12 |A|² − 29 A • B − 15 |B|² =

12 * (1²) − 29 * (1/2) − 15 * (1²) =

17,5