https://mathweb.ru/allsystem.html?id=127764

вычесть 101112(16) и 5678(16) = FBA9A Столбиком

Введите два числа и укажите их основание системы счиления:
.....
-101112
5678
0FBA9A
Ответ: 10111216 - 567816 = FBA9A16