https://mathweb.ru/allsystem.html?id=340438

вычесть 537DA(16) и F456E(16) = F5F26C Столбиком

Введите два числа и укажите их основание системы счиления:
...
-537DA
F456E
F5F26C
Ответ: 537DA16 - F456E16 = F5F26C16