https://mathweb.ru/allsystem.html?id=350001

вычесть AA,A(16) и a,aa(16) = 9F.F6 Столбиком

Введите два числа и укажите их основание системы счиления:
...
-AA.A0
a.aa
9F.F6
Ответ: AA.A16 - a.aa16 = 9F.F616