https://mathweb.ru/allsystem.html?id=323534

вычесть 604,B(16) и 3B9,8(16) = 24B.3 Столбиком

Введите два числа и укажите их основание системы счиления:
..
-604.B
3B9.8
24B.3
Ответ: 604.B16 - 3B9.816 = 24B.316