https://mathweb.ru/allsystem.html?id=119765

вычесть ABC9A7(16) и FFFD(16) = AAC9AA Столбиком

Введите два числа и укажите их основание системы счиления:
....
-ABC9A7
FFFD
AAC9AA
Ответ: ABC9A716 - FFFD16 = AAC9AA16