https://mathweb.ru/allsystem.html?id=302128

вычесть 390,99(16) и 323,170A3D(16) = 6D.81F5C3 Столбиком

Введите два числа и укажите их основание системы счиления:
.....
-390.990000
323.170A3D
06D.81F5C3
Ответ: 390.9916 - 323.170A3D16 = 6D.81F5C316