https://mathweb.ru/allsystem.html?id=72539

вычесть 10110100(16) и 110101(16) = FFFFFFF Столбиком

Введите два числа и укажите их основание системы счиления:
.......
-10110100
110101
0FFFFFFF
Ответ: 1011010016 - 11010116 = FFFFFFF16