https://mathweb.ru/allsystem.html?id=312802

вычесть B3A7(16) и 5F9(16) = ADAE Столбиком

Введите два числа и укажите их основание системы счиления:
...
-B3A7
5F9
ADAE
Ответ: B3A716 - 5F916 = ADAE16