https://mathweb.ru/allsystem.html?id=314398

вычесть 5DA(16) и 1FF(16) = 3DB Столбиком

Введите два числа и укажите их основание системы счиления:
..
-5DA
1FF
3DB
Ответ: 5DA16 - 1FF16 = 3DB16