https://mathweb.ru/allsystem.html?id=110630

вычесть 11100(16) и 1101(16) = FFFF Столбиком

Введите два числа и укажите их основание системы счиления:
....
-11100
1101
0FFFF
Ответ: 1110016 - 110116 = FFFF16