Выполним вычитание в шестнадцатеричной системе счисления:
C12 - AA2
C12 = 12 * 256 + 1 * 16 + 2 * 1 = 3090
AA2 = 10*256 + 10*16 + 2 * 1 = 2722
3090 - 2722 = 368
368 : 16 = 23 (остаток 0)
23 : 16 = 1 (остаток 7)
170
1 * 256 + 7 * 16 + 0 * 1 = 170_{16}
Ответ: 170