https://mathweb.ru/allsystem.html?id=288769

вычесть 539(16) и 87A(16) = FCBF Столбиком

Введите два числа и укажите их основание системы счиления:
...
-539
87A
FCBF
Ответ: 53916 - 87A16 = FCBF16