https://mathweb.ru/allsystem.html?id=322816

вычесть 100000000(16) и AEAFA289(16) = 51505D77 Столбиком

Введите два числа и укажите их основание системы счиления:
........
-100000000
AEAFA289
051505D77
Ответ: 10000000016 - AEAFA28916 = 51505D7716