https://mathweb.ru/allsystem.html?id=326419

вычесть 10000(16) и 170(16) = FE90 Столбиком

Введите два числа и укажите их основание системы счиления:
...
-10000
170
0FE90
Ответ: 1000016 - 17016 = FE9016