IIT-JEE 2012 · Paper 1, Mathematics question 59

Expand. For unit vectors, $|\vec a-\vec b|^2=2-2\vec a\cdot\vec b$, so
$$6-2(\vec a\cdot\vec b+\vec b\cdot\vec c+\vec c\cdot\vec a)=9\implies\vec a\cdot\vec b+\vec b\cdot\vec c+\vec c\cdot\vec a=-\tfrac32.$$

Sum is zero. $|\vec a+\vec b+\vec c|^2=3+2\left(-\tfrac32\right)=0$, so $\vec b+\vec c=-\vec a$.

Value. $2\vec a+5(\vec b+\vec c)=-3\vec a$, of magnitude 3.

Answer: 3