https://mathweb.ru/allsystem.html?id=308244

вычесть 5704(16) и 56AE(16) = 56 Столбиком

Введите два числа и укажите их основание системы счиления:
..
-5704
56AE
0056
Ответ: 570416 - 56AE16 = 5616