德国人的实验尽管可怕，但在规模上(甚至残忍度上)却被日本人比了下去。在一个名叫石井四郎的医生带领下，日本人在“伪满洲国”的哈尔滨修建了一处由150多座建筑组成的庞大建筑群，占地6平方千米，公开宣称要通过各种必要的手段，确定人类的生理极限。这处设施被称为“731部队”。
在一项典型的实验中[lbk]24[rbk]，中国囚徒以交错的距离被绑在木桩上，接着日本人引爆远处的榴霰弹。之后，科学家们走到囚徒中间，仔细观察他们受伤的性质、程度及其死亡时间。出于类似目的，另一些囚徒遭到火焰喷射器的扫射，或挨饿、冷冻、下毒。一些人甚至在清醒时惨遭解剖[lbk]25[rbk]。大多数受害者是被俘的中国士兵，但731部队也对一些盟军战俘进行了实验，以确保毒素和神经毒剂对西方人及亚洲人有着同样的影响。如果需要孕妇或小孩做实验[lbk]26[rbk]，日军会随意从哈尔滨的街道上抓人。
没有人知道在731部队有多少人死亡，但一项估计认为，这个数字将高达25万。
这一切暴行的结果是，到战争结束时，日本和德国对微生物学、营养学、冻伤、武器伤害，以及最重要的神经毒气、毒素和传染病之影响，有了远超世界其他国家的认识。很多德国人因为上述战争罪行遭到逮捕和审判，但日本人几乎完全逃脱了惩罚。大多数人被免予起诉，作为回报，他们向战胜方美国分享了自己所了解到的情况。组建并领导731部队的医生石井四郎接受了大量盘问，而后获准重返平民生活。