https://mathweb.ru/allsystem.html?id=327338

вычесть 5,11(16) и 3,14(16) = 1.FD Столбиком

Введите два числа и укажите их основание системы счиления:
..
-5.11
3.14
1.FD
Ответ: 5.1116 - 3.1416 = 1.FD16