https://mathweb.ru/allsystem.html?id=124208

вычесть 98364(16) и FDAB(16) = 885B9 Столбиком

Введите два числа и укажите их основание системы счиления:
....
-98364
FDAB
885B9
Ответ: 9836416 - FDAB16 = 885B916