https://mathweb.ru/allsystem.html?id=328506

вычесть 9A8(16) и 3DA(16) = 5CE Столбиком

Введите два числа и укажите их основание системы счиления:
..
-9A8
3DA
5CE
Ответ: 9A816 - 3DA16 = 5CE16