вычесть 0101101(2) и 011011(14) = -1010000010101010 Столбиком

Вы ввели числа в различных системах счисления. Однако в расчете могут участвовать числа только в одинаковых системах счисления. Мы переведём второе число 011011₁₄ в 2-ричную систему счисления вот так:

Выполним перевод в десятичную систему счисления вот так:

Получилось: 011011₁₄ =41175₁₀

Переведем число 41175₁₀ в двоичное вот так:

Целая часть числа находится делением на основание новой системы счисления:

41175	2
-41174	20587	2
1	-20586	10293	2
	1	-10292	5146	2
		1	-5146	2573	2
			0	-2572	1286	2
				1	-1286	643	2
					0	-642	321	2
						1	-320	160	2
							1	-160	80	2
								0	-80	40	2
									0	-40	20	2
										0	-20	10	2
											0	-10	5	2
												0	-4	2	2
													1	-2	1
														0

В результате преобразования получилось: