вычесть 10111000,1011001(2) и 65,4(8) = 10000011.0011001 Столбиком

Вы ввели числа в различных системах счисления. Однако в расчете могут участвовать числа только в одинаковых системах счисления. Мы переведём второе число 65.4₈ в 2-ричную систему счисления вот так:

Выполним перевод в десятичную систему счисления вот так:

Получилось: 65.4₈ =53.5₁₀

Переведем число 53.5₁₀ в двоичное вот так:

Целая часть числа находится делением на основание новой системы счисления:

53	2
-52	26	2
1	-26	13	2
	0	-12	6	2
		1	-6	3	2
			0	-2	1
				1

Дробная часть числа находится умножением на основание новой системы счисления:

	0.	5*2
	1	.0*2

В результате преобразования получилось: