https://mathweb.ru/allsystem.html?id=353264

вычесть 101100(16) и 11101(16) = EFFFF Столбиком

Введите два числа и укажите их основание системы счиления:
.....
-101100
11101
0EFFFF
Ответ: 10110016 - 1110116 = EFFFF16