https://mathweb.ru/allsystem.html?id=360481

вычесть FB00AE(16) и 8417B4(16) = 76E8FA Столбиком

Введите два числа и укажите их основание системы счиления:
...
-FB00AE
8417B4
76E8FA
Ответ: FB00AE16 - 8417B416 = 76E8FA16