Вы ввели числа в различных системах счисления. Однако в расчете могут участвовать числа только в одинаковых системах счисления. Мы переведём первое число 13AE16 в 10-ричную систему счисления вот так:
Выполним перевод в десятичную систему счисления вот так:
Получилось: 13AE16 =503810
| - | 5 | 0 | 3 | 8 |
| 6 | ||||
| 5 | 0 | 3 | 2 |