在这前后，苏联红军内部进行了大规模的“肃反”活动，各大军区司令员中仅有一个没有被逮捕，在张鼓峰战斗时指挥击败日军的远东方面军司令员布留赫尔元帅也被处决了。
就连苏联远东地区“肃反”负责人、苏军总政治部保卫局的局长都逃到了伪满洲国，“大清洗”造成军队战斗力急剧下降，指挥系统瘫痪了一半。
关东军据此得出结论，苏、蒙军队中有经验能力的军官基本上被扫荡一空，师团长多是一些刚出校门的年轻人，这样的军队关东军一个师可以对付其3个师。
在中蒙边境的诺门罕附近，有条叫哈拉哈的小河，哈拉哈是蒙语里“屏障”的意思，它位于今天内蒙古呼伦贝尔市附近，由于历史原因，当时内外蒙古边境线的划分在有些地方不是很明确，因此哈拉哈河沿岸的“满洲国”军和蒙古人民共和国边防军之间纠纷不断，冲突迭起。
1939年5月4日，几名蒙军士兵习惯性地赶着马群，来到哈拉哈河东岸放牧，由于东安水草肥美，往年蒙军也经常渡河放牧，伪满的士兵往往睁只眼闭只眼，但这次出事了。
在东演驻防的是新换防过来的伪兴安北警备军的一个骑兵连，连长是司令官的女婿，自然无所顾忌。
一看到蒙军马群过河便开枪阻拦，此事引起了对面蒙军哨所的不满，认为是伪满军队故意挑衅，立即带人过河反击，双方你来我往，战斗迅速升级，最后竟打到团级规模。
本意就为马匹争一口草料的蒙军不会想到，他们的这一举动竟点燃了引爆一场大规模战役的导火索，使得这一地区本来潜伏的危机瞬间爆发开来。
关东军这时驻海拉尔23师团的师团长小松原道太郎，是日军中少有的苏联通，他曾任日本驻苏武官，专门从事收集苏联方面的情报，对西伯利亚地区苏军的军事状况尤为了解。
