https://mathweb.ru/allsystem.html?id=353768

вычесть 11100000(16) и 1010101(16) = 100EFEFF Столбиком

Введите два числа и укажите их основание системы счиления:
.....
-11100000
1010101
100EFEFF
Ответ: 1110000016 - 101010116 = 100EFEFF16