вычесть 11010101(2) и 11Fe(16) = -1000100101001 Столбиком

Вы ввели числа в различных системах счисления. Однако в расчете могут участвовать числа только в одинаковых системах счисления. Мы переведём второе число 11Fe₁₆ в 2-ричную систему счисления вот так:

Выполним перевод в десятичную систему счисления вот так:

Получилось: 11Fe₁₆ =4606₁₀

Переведем число 4606₁₀ в двоичное вот так:

Целая часть числа находится делением на основание новой системы счисления:

4606	2
-4606	2303	2
0	-2302	1151	2
	1	-1150	575	2
		1	-574	287	2
			1	-286	143	2
				1	-142	71	2
					1	-70	35	2
						1	-34	17	2
							1	-16	8	2
								1	-8	4	2
									0	-4	2	2
										0	-2	1
											0

В результате преобразования получилось: