https://mathweb.ru/allsystem.html?id=283941

вычесть 100(16) и 5B(16) = A5 Столбиком

Введите два числа и укажите их основание системы счиления:
..
-100
5B
0A5
Ответ: 10016 - 5B16 = A516