https://mathweb.ru/allsystem.html?id=332914

вычесть 3005(16) и 2AB(16) = 2D5A Столбиком

Введите два числа и укажите их основание системы счиления:
...
-3005
2AB
2D5A
Ответ: 300516 - 2AB16 = 2D5A16