И действительно, в январе 1923 г. Москва пообещала Сунь Ятсену оказать помощь в объединении Китая, а в конце года в качестве советника Сунь Ятсена в Китай прибыл специальный посланник советского правительства М. Бородин. За ним последовало около 1000 военных советников и специалистов. Вооруженные силы ГМД стали интенсивно насыщаться советским вооружением и военной техникой. Предполагалось, что в ходе предстоящих боев Гоминьдан сможет установить контроль по крайней мере над югом и востоком страны.

При этом между ГМД и КПК продолжали сохраняться странные отношения. В отличие от компартии, в Гоминьдане вплоть до 1923 г. не было ни программы, ни устава. Организационная структура оставалась расплывчатой, все руководство осуществлял сам Сунь Ятсен. Несмотря на принципиальные разногласия между двумя политическими организациями и острое соперничество в борьбе за власть, рядовым коммунистам было разрешено вступать в Гоминьдан.

Но столкновение между националистами и коммунистами становилось неизбежным.

В марте 1925 г. умер Сунь Ятсен. Сталин решил воспользоваться этим для усиления советского влияния в высших властных эшелонах Гоминьдана: так он хотел обеспечить доминирующее положение в ГМД китайских коммунистов, которые затем могли бы окончательно «оседлать» революционное движение в Китае. Его планам, однако, активно мешал ближайший военный советник Сунь Ятсена – Чан Кайши, одновременно возглавлявший военную академию «Вампу». В марте 1926 г. он осуществил в Кантоне военный переворот, изгнал из города коммунистов, а спустя три месяца был избран председателем Гоминьдана и главнокомандующим вооруженными силами. Добившись высшей власти, Чан Кайши приблизил к себе выпускников академии, которым он доверял, стал перестраивать свою армию по европейскому образцу, пригласив с этой целью немецких советников во главе с бывшим генерал рейхсвера фон Сектом. Немецкие советники, сделав особый акцент в обучении гоминьдановской армии на умении вести позиционную войну, сыграли в её дальнейшей судьбе не самую лучшую роль.

В 1926 г. Национально-революционная армия Китая Чан Кайши предприняла так называемый Великий Северный поход. В течение шести месяцев непрерывных боев от власти местных военных правителей были освобождены центральные районы Китая. В начале 1927 г. части Гоминьдана захватили г. Шанхай, крупнейший промышленный и торговый центр страны. Именно здесь 12 апреля 1927 г. Чан Кайши пошел на открытый развал единого фронта КПК и ГМД: его войска начали разоружение шанхайских рабочих отрядов и дружин. Для разгона народных демонстраций гоминьдановские войска применили оружие, начались массовые аресты и казни профсоюзных деятелей и коммунистов. Эти события захватили и другие крупные города Китая.

18 апреля Чан Кайши сформировал в Нанкине новое китайское правительство, после чего последовало окончательное изгнание из страны советских военных советников. Казалось, странный «союз» Москвы и Гоминьдана завершился. Советский советник М. Бородин, покидая Китай, рекомендовал китайским коммунистам уйти в подполье и оттуда организовать вооруженное сопротивление Гоминьдану.

ГМД и КПК уже не скрывали своего антагонизма. Дело стало доходить до прямых вооруженных столкновений. В декабре 1927 г., по рекомендации Сталина, было поднято коммунистическое восстание в Кантоне, которое гоминьдановцы жесточайшим образом подавили после четырех дней кровопролитных боев. С ликвидацией кантонской коммуны дипломатические отношения между Москвой и гоминьдановский правительством были разорваны.

Тем временем ГМД успешно наступал по всей стране. В 1928 г. его войска овладели Пекином. Однако, несмотря на все попытки Чан Кайши окончательно расправиться с коммунистическим подпольем, КПК не просто выжила, но и укрепила свои силы. Вынужденная отступать под нажимом Гоминьдана, она закрепилась вместе со своими вооруженными отрядами в горных приграничных районах провинций Цзянси, Хубэй и Хунань. Там была установлена китайская советская власть и начато формирование Китайской Красной армии.

Именно в этот период Мао Цзэдун, находясь с отрядом в 1 тысячу человек в Цзинганшани в провинции Цзянси, сформулировал свои основные «идеи в военной области», которые позже станут идеологической основой КПК и ее вооруженных сил. Говоря о массовом героизме бойцов новой революционной армии, Мао писал: «Мы – партия трудящегося народа, жестоко угнетаемого, мы – партия революции, которая сметет всю гниль с этой земли. Смерть – это только физический уход из жизни. И если человек, а тем более коммунист, может своей смертью, умом, храбростью принести пользу, то он не должен задумываться».

На I Всекитайском съезде Советов, проведенном в ноябре 1931 г. в Центральном советском районе в Цзянси, было сформировано советское правительство Китая во главе с Мао Цзэдуном. К этому времени вооруженные силы коммунистов контролировали территорию с населением свыше 60 млн человек, а в Китайской Красной армии насчитывалось 150 тысяч бойцов.