https://mathweb.ru/allsystem.html?id=125760

вычесть 10A8(16) и 5BC(16) = AEC Столбиком

Введите два числа и укажите их основание системы счиления:
...
-10A8
5BC
0AEC
Ответ: 10A816 - 5BC16 = AEC16