https://mathweb.ru/allsystem.html?id=328500

вычесть 5,10(16) и 3,104(16) = 1.FFC Столбиком

Введите два числа и укажите их основание системы счиления:
...
-5.100
3.104
1.FFC
Ответ: 5.1016 - 3.10416 = 1.FFC16