https://mathweb.ru/allsystem.html?id=127087

вычесть 11510(16) и 638(16) = 10ED8 Столбиком

Введите два числа и укажите их основание системы счиления:
...
-11510
638
10ED8
Ответ: 1151016 - 63816 = 10ED816