https://mathweb.ru/allsystem.html?id=326358

вычесть 10000(16) и FE80(16) = 180 Столбиком

Введите два числа и укажите их основание системы счиления:
...
-10000
FE80
00180
Ответ: 1000016 - FE8016 = 18016