https://mathweb.ru/allsystem.html?id=333513

вычесть 511(10) и AA(816) = -7659 Столбиком

Введите два числа и укажите их основание системы счиления:

Вы ввели числа в различных системах счисления. Однако в расчете могут участвовать числа только в одинаковых системах счисления. Мы переведём второе число AA816 в 10-ричную систему счисления вот так:

Выполним перевод в десятичную систему счисления вот так:

10∙8161+10∙8160 = 10∙816+10∙1 = 8160+10 = 817010

Получилось: AA816 =817010

....
-511
8170
-7659
Ответ: 51110 - AA816 = -765910