https://mathweb.ru/allsystem.html?id=288770

вычесть 539(16) и 37A(16) = 1BF Столбиком

Введите два числа и укажите их основание системы счиления:
..
-539
37A
1BF
Ответ: 53916 - 37A16 = 1BF16