https://mathweb.ru/allsystem.html?id=348552

вычесть 12345(16) и C7D8(16) = 5B6D Столбиком

Введите два числа и укажите их основание системы счиления:
....
-12345
C7D8
05B6D
Ответ: 1234516 - C7D816 = 5B6D16