https://mathweb.ru/allsystem.html?id=355023

вычесть 1768(16) и 999(16) = DCF Столбиком

Введите два числа и укажите их основание системы счиления:
...
-1768
999
0DCF
Ответ: 176816 - 99916 = DCF16