日初期，赵尚志本能地鄙视和讨厌土匪，不愿意与他们为伍。
那时候，仅在赵尚志游击队活动的珠河一带，就有许多义勇军、山林队，如“九江”、“容易”、“跨海”、“双盛”、“白龙”“闯江南”“压东洋”、“北来”等大小三四十股。
在此期间，赵尚志曾与这些队伍麻烦纠纷不断。后来在党内又被一些人盖了顶帽子叫“关门主义”，意思是，他关起门不愿意和大家团结抗日。
很快，赵尚志认识到，共产党的游击队尚弱，要抗日必须联合这些杂牌军，于是，委曲求全，放下成见，收编了许多“山头”，成立了东北反日联合军司令部，赵尚志被推选为总司令。
然而，这支队伍中出现一些汉奸几乎是注定了的。比如，赵尚志为了收编一个叫于九江的土匪，和他结拜为“兄弟”，任命其为第七师师长。但于九江匪性不改，进行内奸分裂活动，被赵尚志兵不血刃用计拿下。诸如此类被背叛的事情，时有发生。
但赵尚志相信每个人终归都有民族良心，所以，许多次打仗，只要对方是中国人，他就手里拿着一根小木棍，骑在马上喊话。有士兵说，“别喊话了，枪子儿可不听你的呀！” 赵尚志说，枪子儿能打着几个敌人，我一喊“中国人不打中国人”，就很可能跑过来一大群。
在一个随时都可能潜伏土匪的部队里，赵尚志的警戒心理可想而知。尤其在经历一次次背叛后，再接收他所不信任的山林队人马时，他甚至要设置圈套加以考验。1934年春节前夕，他召集队员问，谁愿意请假回家过年，当时有几个士兵请了假，过完年回来后，赵尚志就不要他们了。他说，用这些办法看看哪些人有动摇的思想。
当然，他的这一做法又受到了党内一些人的批判。
蹊跷的军中谎言
虽然是杂牌军组成的抗日联军，但凭借无与伦比的军事才能，赵尚志打了不少胜仗。为了聚拢人心，他经常把缴来的枪弹物资分发给各种抗日队伍，同时帮助一些有发展前途的队伍打仗以壮大他们的力量。
到1936年，赵尚志一手创建的东北抗日联军第三军已发展到10个师，共计6000余人。粉碎了日军及伪军的数次大讨伐，赵尚志亲自率领军队远征黑嫩平原，半年多的远征中打了大小百余战，杀死杀伤敌人8000多人。
就在此时，改变赵一生的重大事件发生了。
当时，中共中央和东北共产党失去了联系，恰好共产国际所在地苏联和黑龙江只隔一条江，所以，东北共产党实际上受驻在共产国际的王明及康生指挥。这两位领导都没去过东北前线，但指点起来却成竹在胸。赵尚志前后两次公然反对他们的路线，这在当时被一些人说
成是“反对王明，就是反对党中央。”
对王明路线极不理解的赵尚志，派部下朱新阳带信去苏联面见王明汇报。结果，王明把朱新阳扣下，开除党籍。
此间，无论是党内还是敌方，都盛传一种说法：北满或吉东共产党领导层里有奸细。日伪当局称为“吉东和北满两省委间之倾轧斗争”。
正在这时，抗联第六军一师代理师长陈绍滨从苏联回来带口信说，苏联远东军区司令海洛将军要抗联的一位重要领导过江商量抗日大事。
经抗联内部的会议商量后，决定要赵去苏联。赵到了苏联后，对方却不承认邀请过他，当即将赵关起来。
不久，北满临时省委被改组，赵本人被“永远”开除出党。赵尚志的部队被改编为第三路军，赵手下的第三军政治部主任李兆麟出任总指挥。
在苏联的禁闭室里，赵尚志联系到现实种种，怀疑北满省委主要领导中有奸细。当然，后来他为自己的猜疑做了检讨。
而自己与陈绍滨素无恩怨，因而到死的时候，赵也不敢断言，究竟是谁指示这个人把他骗到了苏联。
虎落迷局
在苏联，赵尚志被困一年半，后来，苏方以“误会”为由放了他，并任命他为东北抗日联军总司令，组建了100余人的骑兵，让他带走。回到东北后，他才知道，自己6000多人的部队，在仅仅一年多后，已经死的死散的散，所剩无几了。以前收编来的部队大部分叛逃，
第八军军长谢文东，三军二师师长兰志渊已向日伪当局投降。
得知赵尚志回来后，曾经捎口信把他骗到苏联的陈绍滨威逼部下先缴了赵尚志的几个士兵的械，又威逼部下去抓赵。后来此人又到处散布消息说，赵要捕杀所有北满省委的主要领导。于是，没有人敢去见赵尚志，赵被孤立起来。
在缴不了赵尚志枪械的情况下，陈绍滨秘密命令部下，向附近的日军报告，让他们来捉赵尚志。其汉奸嘴脸终于暴露出来。
陈绍滨于1940年后消失了。长期来，抗日联军中的将领鱼龙混杂，由于条件不允许，收编而来的杂牌军很难得到正规的政治军事训练，所以，问题百出。
尔后，失去自己部队的赵尚志只好返回苏联，渐渐被排挤出了东北抗日的局外。一年