南京“九·九”签降仪式举行后，各战区和方面军便开始陆续接受日军驻该地区部队缴械投降。
9月13日国民党陆军总司令部下达了诚字第三号训令，对驻华日军与日侨的管理做出如下规定：
一、日本官佐士兵之眷属，应与日侨之眷属及侨民集中于指定地区。其中集中地区在南京，由新编第六军军长廖耀湘中将指定。其他各受降地区，则由各受降官指定之。
二、日本营妓与歌女等，须集中于另一指定地区。
三、(略)
四、中国战区内所有日本官兵，除担任警戒或勤务公差者外，兹规定每日午前六时以前，及午后八时以后为留营时间。在此时间以内，不得外出。日侨每日留居所时间，与日本官兵同。南京地区自九月十七日起实行。
五、六、七、八、(略)
九、驻华日本官兵及侨民返国日期，因需船只过多，难予确定。各集中地，准由日人构筑房舍，并须为准备冬季服装。
分布在各战区大、中、小城市以及县城的日俘集中营，由于居住条件与周围环境不同，不免面貌各异形式多样。日俘们的生活与集中营的条件有直接的关系。走运者可以在尼姑庵中独居一室，优哉游哉，甚至有幸在蒋介石的别墅中“安营扎寨”；不走运者，只有白手起家，现盖房屋，或挤在陋家中等待归期。然而，至于能住进什么样的集中营，日俘们只有听天由命。
他们已归心似箭
9月以后，驻扎在北平周围的日军坦克三师、独立二旅、独立八旅先后开进市区集中。一些不明真相的市民看到大批日军持枪列队而来，一辆接一辆的坦克隆隆驶过大街，有的坦克，炮口还裸露在炮衣外面，以为日军又要打仗，一面大叫： “鬼子进城了!”一面吓得转身逃走，引起了另一些看热闹市民的哄笑。不过绝大多数市民都知道，这些日军是来市区集中缴械投降的。
国民党第十一战区长官司令部于受降后统计，集结在北平的日军共57000余人。同属该战区受降的人共51000余人，太原、石家庄两地共64000余人，总计173000余人。
当然，这个数字并不精确。一部分日军在向北平集结时，因种种原因受阻，很长时间后才到达市区。有的日军到达市区后，又伺机逃往其他地区。而据北平日侨居留民团负责人石川说，中国军方有通知，凡在北平与中国妇女结婚的日军，可以解甲为民，部队的人数也因此有所减少。
北平的日俘集中营设在西苑和丰台等地。通州的国民党军换防后，也设立了日俘集中营。
日俘们自有组织，叫做“联络委员会”。自设正、副主任。西苑日俘集中营的联络委员会主任名叫赤穗津，副主任名叫高桥韧。凡是与日俘管理处商洽什么事情，都由他们出面。
日俘们对所有到集中营参观训话的中国人都毕恭毕敬。每逢通报某团、某长来到，联络委员会主任立即派一些士兵夹道欢迎，并向参观者敬礼或鞠躬。他们敬礼时，皮鞋跟相击，发出整齐的响声；鞠躬则是九十度。令参观者笑逐颜开。联络委员会正、副主任更是注意礼节，中国人进入集中营参观时，他们如果正穿着衬衫在屋里与士兵们谈话，就会立即穿上军服出门迎接，并向来者连称失礼。战时那种趾高气扬的神气已荡然无存。
由于日俘集中营成立不久，大遣返即告开始，所以营内先前比较拥挤，后来人越来越少，住房也渐觉宽敞。在西苑集中营的一处大房间里，堆着大批无用的文件资料。几个士兵一连数日忙着烧毁这些文件，把营房弄得乌烟瘴气。
日俘们的生活仍然高于中国普通市民。当时，一般中国百姓很难买得起猪肉，而他们则每日都有猪肉供应。厨房刚烧好的白菜胡萝卜汤里，肉片之多，令参观者感到惊讶。在粮仓里，堆着他们战时掠夺来的粮食。按国民党陆军总司令部规定，12月份以前，日俘粮食自给，从1946年1月起，由国民党军方供给。但仓库里的粮食堆积如山，即使吃上半年也吃不完。
在当时，日侨中的技术人员想留在中国工作的不少，但集中营内的日俘已归心似箭。集中营门前的布告板上，时有官方贴出的留用技术人员的布告，上面写着：“凡思想稳健与特殊技术具有者……”然而，出进集中营的士兵却视若无睹。一次，国民党第十一战区司令长官部想从日俘中征用十名无线电兵，竟无一人报名。日俘们对征用者说：
“长官部已经征走了80多个无线电兵，现在你们一个也别想找到。”
遣返开始后，一些人接到去天津塘沽港集中，然后乘船回国的命令时，兴奋得彻夜不眠。有时，命令突然下来，要日俘在一两个小时内出发，他们便连东西也不愿收拾，胡乱裹起几件衣服就走。
日俘们常在夜间接到遣返命令，于清晨出发，步行至火车站，乘车去天津，再由塘沽港乘船回国。离营的日俘一批约数百人至千余人不等。每有一批日俘离营，营房内便弄得乱七八糟，炕上、地上满是衣服鞋袜，包裹箱箧、纸片烟蒂……与他们战时闯入百姓家翻箱倒柜抢劫后的情形颇为相似。而一有日俘离营，对门日侨集中营的男女日侨便过来打扫他们的弃物，哄抢之事不断发生。
留在集中营里的日俘，常常拿着一些零星用品出外换东西。围着铁丝网的集中营外面，聚集着许多卖香烟、瓜子、花生、柿子的小贩，他们有时凭一包香烟就能换到日俘的一件半新的衬衫，甚至一双质地良好的军用皮鞋。更多的日俘则将衣物或日用品从墙洞里塞给钻进铁丝网的小贩，从他们手里换取零食。
上述做法，管理人员是禁止的。但偌大一个集中营，只有18个国民党兵看守，实在无法顾及。
有的日俘则将无用也换不来东西的物品在营中烧毁，弄得集中营内时常飘着刺鼻的焦臭味儿。
刚进入集中营时，日俘们以为要在营内过冬，便积极修理门窗，堵塞墙缝。但很快就有人被通知回国，剩下的人也就失去了积极性。即使是联络委员会主任命令大家修理，他们也懒得动。入冬以后，日俘们自制火炉，将汽油桶外敷上泥，没有煤，就在里面烧木柴或木炭，营房内倒也被烘得暖暖和和。
每一批日俘离营回国，都要在临走之前集中起来，由日俘日侨管理处派人前往训话，要他们做沉痛的回想，深刻的反省。并训导说，什么样的日本人才能适合于未来世界。训话期间，训话者若出现“你们说是不是啊?”之类的问语，日俘们便一齐高喊：“嗨咿!”声音洪亮整齐，震动整个营房。有的日俘在记者提问时回答说：“尽管中国人没有对我们报复，但是我们的心灵永远不会安宁，我们手上的血永远洗不干净……”说话时，表现出一种发自内心的真诚的忏悔。
由美军管理的日俘集中营
在天津地区负责受降的部队是美国海军陆战队第三军团。蒋介石之所以下令将天津地区的受降权交给美军，其目的是为了让美军替国民党军有力地控制天津的塘沽港。
美第三军团与第十一战区司令长官部抽出人员，共同组成了一个中美联合日俘管理处，具体负责日俘日侨的管理与遣送工作。
由于一时无法有足够的住房收容这些日俘，中美联合管理处对于日俘的管理并不很严。而日俘们对美军的态度也和对中国军队一样，是十分恭顺的。
其实，那些日俘对美军的恭顺态度只是表面上的，他们内心对美军的仇视程度要在对中国军队之上，因为是美国的陆海空军攻占了日本本土。而一些战友惨遭日军屠杀的美军官兵，自然也难以对日俘“宽大为怀”。因此，美军士兵酒后殴打戏辱日俘的事件不断发生。
驻天津日军战前在津郊开设了一所碾米厂。日本投降以后，中美联合日俘管理处命令一部分日俘继续经营这座粮食加工厂，并将加工好的大米分别运往其他日俘日侨集结地去。
中美日俘联合管理处对天津日俘的管理工作，与其他地区略有不同。美军改变了日军原来的部队建制，将100名日俘编为一个小队，三个小队编为一个中队，三个中队编为一个大队。各级队长由日军士兵选举军官担任。
住在蒋介石别墅里的日俘
汤水镇距南京城南70余里。日军缴械投降后。驻南京和蚌埠的一部分日军，共6400余人，被集中在此地。这些日俘按部队兵种分住在四个地方，其中有步兵教育队、炮兵教育队、下士官候补队和经理部下士官候补队。
日俘每天的粮食定量是17两米、8两面、16两菜。他们自己种菜，自己油印小报《阵中新闻》。当然他们现在已经不在阵中而是在集中营里了。
日俘患病后，轻者在营房里休息，重者则可住进伤病兵收容所。那里的伙食比集中营要好，医药治疗也很及时。病房里打扫得很干净，每一张病床旁的小柜子上，都放着一只啤酒瓶，瓶中插着盛开的菊花。
汤水集中营的日俘还有一个得天独厚的条件，那就是每隔几天，便可集中去洗一次温泉浴。这对喜欢洗澡的日本人来说，的确是一大乐事。
有一部分日俘被调去修南京至汤山的公路。这些日俘干活很卖力，中国守军拨给他们一部卡车，专门往返运送修路的日俘。他们在干活期间，一见到国民党军的汽车开来，便老远就排好队，立在路旁，待汽车经过时，便恭恭敬敬地行礼。在街上采买的日俘，见了中国官兵，也叭地一个立正，站得笔直，向他们致敬。
汤水镇日军集中营休息所，是战前蒋介石的别墅。当中国军政官员或记者前来参观，日俘头能津涧三便事先率领营内士兵在大门外列队迎接。休息所客厅里，悬挂着孙中山和蒋介石的肖像。天棚下交叉挂着两行盟国的国旗。参观者每到一个单位，门前均有一班号兵，站立着吹起接官号迎接。
步兵教育队营房里，墙上贴着一些日文标语，其中有：“建设民主自由的新日本”、“消灭日本军阀思想”等。
上海日俘集中营
在大遣返之前，集中在上海缴械的日军共有68000余人。集中营分别设在江湾、吴淞一带。
这批日俘缴械后，便奉中国军方之命，开始自建集中营营房。日俘们为了尽快有一个藏身之所，干活十分卖力。9月的上海，天气还很热，日俘们有的穿着衬衣汗衫，有的干脆赤膊，在烈日下运输砖瓦水泥，砌墙造屋。他们一个个晒得黑红油亮，脖子上搭着一条毛巾，用来揩擦如雨的汗水。军官如不下令休息，他们决不偷懒。
营房初具规模后，大批原先露宿的日俘便住了进去。
集中营的生活紧张而有规律，上午5时30分起床，盥洗、早餐，然后按各自的分工，或继续做一些营房的扫尾工程，或干其他劳动。总之，均不会闲着。下午则大部分时间开展娱乐活动，或打篮球，练单双杠，或下棋读报。黄昏时，各种活动一律停止。晚上9时，熄灯就寝。
日俘的伙食，与中国军人相同，副食费无论官兵，每人每天80元(伪币)。由日俘管理机关支付。日俘的衣着，仍然是原来的军装。
