https://mathweb.ru/allsystem.html?id=289524

вычесть AE0(16) и B00(16) = FFE0 Столбиком

Введите два числа и укажите их основание системы счиления:
.
-AE0
B00
FFE0
Ответ: AE016 - B0016 = FFE016