вычесть 1011010000(2) и 100000(8) = -111110100110000 Столбиком

Вы ввели числа в различных системах счисления. Однако в расчете могут участвовать числа только в одинаковых системах счисления. Мы переведём второе число 100000₈ в 2-ричную систему счисления вот так:

Выполним перевод в десятичную систему счисления вот так:

Получилось: 100000₈ =32768₁₀

Переведем число 32768₁₀ в двоичное вот так:

Целая часть числа находится делением на основание новой системы счисления:

32768	2
-32768	16384	2
0	-16384	8192	2
	0	-8192	4096	2
		0	-4096	2048	2
			0	-2048	1024	2
				0	-1024	512	2
					0	-512	256	2
						0	-256	128	2
							0	-128	64	2
								0	-64	32	2
									0	-32	16	2
										0	-16	8	2
											0	-8	4	2
												0	-4	2	2
													0	-2	1
														0

В результате преобразования получилось: