https://mathweb.ru/allsystem.html?id=328477

вычесть 5,11(16) и 3,114(16) = 1.FFC Столбиком

Введите два числа и укажите их основание системы счиления:
...
-5.110
3.114
1.FFC
Ответ: 5.1116 - 3.11416 = 1.FFC16