https://mathweb.ru/allsystem.html?id=298980

вычесть 100fa(16) и Fff(16) = F0FB Столбиком

Введите два числа и укажите их основание системы счиления:
....
-100fa
Fff
0F0FB
Ответ: 100fa16 - Fff16 = F0FB16