Родоначальником Харбинского политехнического института (ХПИ) является Русско-китайский техникум, созданный в 1920 году для подготовки кадров по строительству и обслуживанию Китайской Восточной железной дороги (КВЖД). Прежде в том же в здании с 1909 года располагалось Генеральное консульство Российской империи в Харбине.

Директором техникума стал известный инженер путей сообщения Алексей Алексеевич Щелков. Преподавание осуществлялось на русском языке, для учащихся-китайцев были открыты годичные подготовительные курсы русского языка. 2-го апреля 1922 года техникум был преобразован в Русско-китайский политехнический институт (РКПИ) с трехлетними подготовительными курсами и пятилетним основным обучением. Эта дата и считается в России днем основания института. В Китае год основания ХПИ приурочен к 1920-му, когда был создан Русско-китайсий техникум, прообраз будущего института. РКПИ имел два факультета: дорожно-строительный (декан – инженер путей сообщения П.Ф. Козловский) и электромеханический (декан – проф. Н.М. Обухов).

Большую роль в создании института сыграло руководство КВЖД во главе с её управляющим Борисом Васильевичем Остроумовым, которое предоставило помещения, оборудование и ассигновало ежегодную субсидию.

Институт возглавлялся Правлением общества по заведованию РКПИ. Председателем Правления был талантливый администратор Николай Львович Гондатти, личный авторитет и влияние которого сыграли немалую роль в деле становления института.

Институт располагал прекрасными зданиями с большим земельным участком в лучшей части Харбина (основное здание по проекту Игнатия Цитовича с пристройкой правого крыла в 1926 г., выполненной по проекту архитектора Петра Свиридова, находилось на углу Правленской и Садовой улиц), имел устойчивый бюджет, опытный профессорско-преподавательский состав, стабильный приток студентов и обеспеченную практику для них. При институте были созданы необходимые лаборатории, столярные и слесарные мастерские. Гордостью института являлись громадный читальный зал и прекрасная техническая библиотека.

После установления в 1924 г. дипломатических отношений между СССР и Китаем КВЖД перешла в совместное советско-китайское управление, что отразилось и на положении института. Право обучения в институте было предоставлено только подданным этих двух государств. Произошли изменения в административном и академическом составе института за счет пополнения его представителями советской стороны. Заведующие кафедрами по должности стали именоваться профессорами. Академическую часть возглавил Совет профессоров во главе с новым ректором Леонидом Александровичем Уструговым (1925–1935).

4 февраля 1928 года РКПИ был переименован в Политехнический институт О.Р.В.П. (Особый район Восточных провинций), а с 1 ноября того же года стал именоваться Харбинским политехническим институтом.

Институт продолжал успешно развиваться, ежегодно увеличивался приток русских и китайских студентов со всей Маньчжурии. К началу 1930 года их насчитывалось 1026 человек. В состав ХПИ входили 17 кафедр и 4 доцентуры, число преподавателей с солидным научным и инженерным стажем достигло 65 человек.

При ХПИ работали Техническое училище, Маньчжурские курсы техников путей сообщения, Горные курсы и Китайские подготовительные курсы с трехлетним обучением. Планировалось открытие транспортно-экономического факультета и преобразование Горных курсов в горный факультет.

Положение ХПИ начало ухудшаться в 1932 году со времени захвата Маньчжурии Японией и образования марионеточного государства Маньчжоу-Го (Даманьчжоу-Диго). Резко упало число желающих поступить в ХПИ. Марионеточное правительство уволило 12 преподавателей из СССР и назначило на преподавательские и руководящие должности 26 инженеров КВЖД. Длительность обучения в институте была определена в 4 с половиной года, ассигнования на институт значительно уменьшились.

В 1937 году институт полностью перешел в ведение японской администрации, обучение велось на японском языке, русский персонал, за немногим исключением, был уволен. Для русских студентов был образован Северо-Маньчжурский университет (СМУ, 1938–1945) с политехническим и коммерческим факультетами, который явился продолжением ХПИ. Ректором университета стал японский профессор Т. Симизу.

После капитуляции Японии в августе 1945-го и освобождения Северо-Восточного Китая Политехнический институт в Харбине был восстановлен с русским административным и академическим персоналом и проведением занятий на русском языке, учебный план перестроен по образцу советских вузов. Вскоре ХПИ имел шесть факультетов: дорожно-строительный (декан – проф. П.С. Свиридов), электромеханический (проф. А.К. Попов), химический (проф. В.В. Шамраев), горный (горный инженер Ю.М. Зезюкевич), транспортно-экономический (экономист В.Н. Жернаков) и восточно-экономический (инженер Тянь Си-фу). Были открыты подготовительные курсы и вечернее отделение. К 1949 г. число выпускников ХПИ превысило 3500 человек.

Окончание гражданской войны в Китае и образование КНР внесли новые изменения в жизнь ХПИ. В 1950 году было подписано Соглашение о дружбе между СССР и КНР, а в 1952-м СССР передал Китайскую Чанчуньскую железную дорогу (КЧЖД) Китаю, что означало переход ХПИ под руководство китайских властей и функционирование его на китайском языке. Отдельные факультеты были переведены в другие города: химический — в Дальний (ныне — Далянь), горный — в Мукден (ныне — Шэньян). В 1954 году начался массовый отъезд русских из Харбина. Последние русские преподаватели покинули ХПИ в самом конце 1950-х годов.

В созданном и руководимом около 30 лет русскими ХПИ работали многие выдающиеся ученые, талантливые преподаватели: В.А. Белобродский, В.Н. Жернаков, Ф.Ф. Ильин, П.Ф. Козловский, В.А. Кулябко-Корецкий, В.Г. Мелихов, Н.К. Пафнутьев, С.Н. Петров, А.К. Попов, П.Н. Радищев, С.А. Савин, П.С. Свиридов, С.П. Тимошенко, Л.А. Устругов, П.Ф. Федоровский, А.А. Щелков и многие другие.

Институт вырастил ряд высококвалифицированных инженерно-технических кадров. По замечанию исследователя Г.И. Каневской: «Высокие стандарты образования, заложенные в ХПИ, способствовали тому, что диплом института был признан во всем мире, а его питомцы, рассеянные по континентам и странам, проявили себя как квалифицированные специалисты: инженеры, преподаватели, ученые». Многие из выпускников после возвращения в СССР проектировали важные строительные объекты, становились директорами крупных промышленных предприятий, высокопоставленными инженерами.

В стенах ХПИ были заложены традиции поддержки и взаимопомощи, которые политехники сохранили на всю жизнь. Куда бы они ни были заброшены волею судьбы, везде стремились к общению на профессиональном и общественном уровне, о чем свидетельствуют образовавшиеся в Австралии, США, КНР, Японии объединения выпускников ХПИ и Ассоциация друзей Харбинского политехнического института в СССР (впоследствии — ассоциация «Харбин», объединившая не только политехников, но и других репатриантов из Китая). Крупнейшее из них — Объединение инженеров, окончивших ХПИ/СМУ в Сиднее.

Прежний Харбинский политехнический институт, претерпев исторические перемены и пережив многие превратности судьбы, ныне превратился в высшее учебное заведение нового типа — Harbin Institute of Technology (HIT) (Харбинский политехнический университет).

В 2010 году в бывшем здании ХПИ по адресу ул. Гунсы, 59 (Gongsi St, Nangang, Harbin, Heilongjiang 150001) открылся Музей Харбинского политехнического университета (Harbin Institute of Technology Museum).