https://mathweb.ru/allsystem.html?id=128159

вычесть 5A(16) и 7D(16) = FDD Столбиком

Введите два числа и укажите их основание системы счиления:
..
-5A
7D
FDD
Ответ: 5A16 - 7D16 = FDD16