虽然关东军大败，日本投降，我们看似胜利了，但这时却有了另外一个大麻烦，那就是如何安置日本人。因为当时整个东北是日本耗费巨资经营的伪满洲国，经过开拓团多年的殖民和日方长期的驻军，在日本投降时，东北已经超过100万的军民滞留。
招安也招安不了这么多，而且谁知道这些鬼子是不是假投降，真破坏，如果剿灭的话，他们负隅顽抗也很麻烦，毕竟战争都已经结束，没必要格外增加伤亡。所以这个问题就很让人头疼，哪来的回哪去，遣返回日本不就好了？
其实这帮日本人也是这么想的，但现实是做不到，因为日本本土已经被美国占领了，而且上面还散发着原子弹的余温。可他们如果继续呆在东北，随着苏联红军南下，东北被解放是迟早的事，最后他们只能去西伯利亚挖土豆了。
好在有我党在，因为鉴于当时国内的建设形势，确实需要一批技术专家，同时，我党又有优待俘虏的良好传统，所以许多没有犯下侵华罪状的普通人，以及无辜的医生、工程师、工人等技术型人才，都被招降到我军麾下搞建设了，也算是帮日本人解决了一部分出路。
而剩下的人要么去苏联当俘虏，要么就以战败国的身份算作国际的难民，等待国际社会的大遣返。
尽管败局已定，但许多日军仍拒绝投降，因为他们固执地认为，日军的投降只是为了积蓄力量，以便发动更激烈的战争。作为日本的军人，此时需要做的是保存自己的实力，随时等待日本的召唤。于是，有大约两万人的关东军残部，带着1万名妇女儿童，一同逃进了长白山的腹地。
长白山位于我国东北地区，常年被冰雪覆盖，天寒地冻，而且山上又有浓密的原始树林，气候环境相当恶劣，所以人们很少往长白山深处去。这些恶劣的环境反而成了这些残存日军的天然屏障。
此外，在伪满洲国时期，日本人在此修筑了大量的战备仓库和工事，还储备了大批物资，所以逃进长白山的日军有恃无恐。
这就让我军坐不住了，因为2万敌军在我国境内失去踪迹，这是严重的军事事故，如果任由他们潜伏在长白山地区，不仅会对当地百姓的生活造成威胁，更是对我国的国防安全产生了巨大的挑战。
但我军屡次派兵搜寻，一直一无所获，甚至动员了侦察机覆盖侦察，也没观察到任何人居住的影子。就在大家一头雾水的时候，几个猎户提供的线索说，他们在1945年冬天的时候，看见一条长长的队伍井然有序地在山林里穿梭，部队规模至少上万人，而且部队里还有许多女人。
就在侦查有所突破的时候，有消息传来，国民党和鬼子联系上了，他们准备联合起来一同对付我军。但这支残存的关东军最后却消失得无影无踪，老蒋如何联系上这帮鬼子？而他们最后又逃去了哪里？
在得知长白山有2万关东军余孽后，国民党大喜过望，因为他们当时已经做好了和我军打仗的准备，这几万关东军兵精粮足，只要能争取过来，一定是对抗我军的生力军。
为了安抚民众情绪，也是让自己搜寻关东军有借口，东北保安司令长官紧急制定各省宣抚实施计划，说是安抚百姓，但这计划的主要内容，却是招降溃散入山林的日军残部，就差点直说要寻找潜入长白山的关东军。
由于当时长白山一地还属于我东北抗联的势力范围，所以国民党只有偷偷去，他们这一去，有了发现，国民党的联络员就侦测到了日军电台的信号。
发送电台信号的是关东军290部队的残余士兵，他们大概有3000人，除此之外，还有1000名左右的平民。他们是跟一位名叫铃木的指挥官通信，表示自己有食物在此地过冬，但是环境太恶劣，无法率军移动。
随后，国民党又派出联络员高木，在11月底的时候前往长白山腹地寻找残余。而这次有了更加重大的发现，当高木来到临江、抚松一带，走到浑江西北40公里的老岭村时，碰到了一支人数约800人的日军，并与其指挥官山口少佐进行了会晤，还亲自给他递交了招抚令。
经高木了解，这支军队是关东军37802部队中的一个大队，只是担负前哨警戒任务，而长白山中的所有日军一共有2万余人，此外还有一万人的妇女儿童，他们的储备可以使用十年，但粮食只能维持到明年5月。
对于国民党抛出的反共橄榄枝，关东军毫不犹豫就答应了，他们还表示，为了体现合作的诚意，正计划这个冬天大肆抢掠我军的武器弹药和装备给养，只要他们作乱时，国民党军趁机而入，那么势必会给共产党致命的打击。
不过，他们也提了五点要求，第一，送五台无线电机，并给现款30万。第二，提供必要的药品。第三，把万余妇女、儿童遣送回国。第四，发放传单，慰问日方军民。第五，具体的合作事宜再派联络员商洽。
得到消息后，国民党欣喜若狂，马上答应了日军的全部请求，把钱批给联络员高木，让他代为转交长白山的关东军，然后电告沈阳空军第一军区司令张廷孟，要求他迅速印制宣传品后，抽调一架侦察机前往长白山投放传单。
在此期间，一位名叫钟德荣的特务，联系上了国民党长春前线指挥所，他自告奋勇潜入东门解放区，去联系长白山腹地的关东军。正当国民党方面觉得这支关东军手到擒来之时，却变故激生，这几万关东军像人间蒸发了一样，消失得无影无踪。
日本特务钟德荣被敦化县公安局发现后，差点被击毙，立马逃回了日本。国民党仍想继续寻找藏在长白山里的日本关东军，但由于1946到1947年，我党发起了冬季反攻，根本性地扭转了东北战局，将国民党大军压缩在长春、沈阳、锦州等少数几个大城市，所以国民党招降长白山残余日军的工作，最终不得不停止。
尽管国民党停止了招降，但这个历史疑问却一直留了下来，这几万关东军到底去了哪？为什么后面他们再也没出现过？历史的真相究竟是什么？
对此，有一种很主流的说法，这几万人已经在长白山中冻死了。因为长白山是我国最靠北的地区之一，每年的十月中下旬，长白山就会下大雪，而等到深冬时期，最低气温能够达到零下三四十度，而那支藏入长白山的关东军行事仓促，补给不足，怎么可能挨过寒冬呢？
这个说法听起来是最靠谱的，不过也有人提出质疑，因为当时日军在长白山修建了很多据点和工事，里面的物资足够支撑很长一段时间不至于被冻死，而且活要见人，死要见尸。后续我军对长白山也进行了多次地毯式的搜索，结果一无所获，几万人死了，总不可能连个骨头都找不到吧？
除此外，其他的说法更加不靠谱，比如野兽咬死说，因为长白山属于原始森林，里面有很多大型野兽，当它们的栖息地被入侵时，就会攻击入侵者。
不过这个说法并不靠谱，虽然大型野兽很凶猛，但是面对现代化武器装备的军人，野兽还是不堪一击，而且哪怕日军被野兽吃了，也应该留下武器弹药吧，但搜索队在长白山的山上，没有发现任何武器弹药。
其实，真相是根本没有这支关东军，因为在日本投降时，东北过于混乱，到处都是逃窜的军民，而两党都在拼命拉拢日军受降，其中可能真的有小股日军藏进了长白山。
但是由于局面混乱，以讹传讹后就传出了2万关东军进长白山的事，而国民党又是一个向上负责的体系，调查员出去兜那么大一圈，一无所获，怎么交代，自个还想不想提拔调动？