https://mathweb.ru/allsystem.html?id=123890

вычесть 11100110110(16) и 1101100111(16) = FFFF00FFFF Столбиком

Введите два числа и укажите их основание системы счиления:
........
-11100110110
1101100111
0FFFF00FFFF
Ответ: 1110011011016 - 110110011116 = FFFF00FFFF16