https://mathweb.ru/allsystem.html?id=299004

вычесть 100fa(16) и fff(16) = F0FB Столбиком

Введите два числа и укажите их основание системы счиления:
....
-100fa
fff
0F0FB
Ответ: 100fa16 - fff16 = F0FB16