https://mathweb.ru/allsystem.html?id=300060

вычесть 10311(16) и FD37(16) = 5DA Столбиком

Введите два числа и укажите их основание системы счиления:
....
-10311
FD37
005DA
Ответ: 1031116 - FD3716 = 5DA16