Используем теорему косинусов: $$AC^2 = AB^2 + BC^2 - 2 AB BC cos(∠ABC)$$.
Подставляем значения: $$12^2 = 8^2 + 10^2 - 2 8 10 cos(∠ABC)$$.
$$144 = 64 + 100 - 160 cos(∠ABC)$$
$$144 = 164 - 160 cos(∠ABC)$$
$$160 cos(∠ABC) = 164 - 144$$
$$160 cos(∠ABC) = 20$$
cos(∠ABC) = 20/160 = 1/8.