вычесть 64(16) и 1(2) = 1100011 Столбиком

Вы ввели числа в различных системах счисления. Однако в расчете могут участвовать числа только в одинаковых системах счисления. Мы переведём первое число 64₁₆ в 2-ричную систему счисления вот так:

Выполним перевод в десятичную систему счисления вот так:

Получилось: 64₁₆ =100₁₀

Переведем число 100₁₀ в двоичное вот так:

Целая часть числа находится делением на основание новой системы счисления:

100	2
-100	50	2
0	-50	25	2
	0	-24	12	2
		1	-12	6	2
			0	-6	3	2
				0	-2	1
					1

В результате преобразования получилось: