https://mathweb.ru/allsystem.html?id=326902

вычесть 400(16) и 2FF(16) = 101 Столбиком

Введите два числа и укажите их основание системы счиления:
..
-400
2FF
101
Ответ: 40016 - 2FF16 = 10116