https://mathweb.ru/allsystem.html?id=151866

вычесть 1040,2(16) и 533,2(16) = B0D. Столбиком

Введите два числа и укажите их основание системы счиления:
..
-1040.2
533.2
0B0D.0
Ответ: 1040.216 - 533.216 = B0D.16