https://mathweb.ru/allsystem.html?id=123054

вычесть 12AA(16) и 1FF(16) = 10AB Столбиком

Введите два числа и укажите их основание системы счиления:
..
-12AA
1FF
10AB
Ответ: 12AA16 - 1FF16 = 10AB16