https://mathweb.ru/allsystem.html?id=326474

вычесть 278.D3(16) и FE.99(16) = 17A.3A Столбиком

Введите два числа и укажите их основание системы счиления:
...
-278.D3
FE.99
17A.3A
Ответ: 278.D316 - FE.9916 = 17A.3A16