特别行动队这种有些偶然的、半公开的大规模杀戮有其弊端，主要是消耗大量的军火。因此直到1941年夏末和秋天，纳粹统帅部一直致力于采用更为有效的屠杀办法。1941年9月3日，波兰克拉科夫以西奥斯威辛兵营的11区地牢――历史上以其德文名称（奥斯威辛）广为人知――中的250名囚犯，其中大部分是波兰人，被用齐克隆B五氯苯甲腈结晶体毒死，原来这种气体一直是用于熏蒸衣物、房屋以消灭虱子的。虽然纳粹在东线仍然使用毒气车、大规模枪杀和各种其他方法，但是毒气室里的齐克隆B成为纳粹企图为“欧洲犹太人问题解决提供最后解决方案”最主要的方式。总之，大约有110万人在奥斯威辛――比克瑙被杀，90%以上是犹太人。

德国人还把欧洲占领区内的犹太人在当地集中起来后，用火车运往奥斯威辛或者另外五个东欧灭绝营。一般犹太人可在路上携带15－25千克的个人物品，这样做是为了迷惑他们，让他们以为要被安置在“德国以东”的犹太区内，这样的欺骗是为了让他们听话，把他们骗进毒气室时他们不惊慌、不反抗、不逃跑。车子一靠近比克瑙，党卫军官员就进行第一次筛选，选出那些身强力壮的男女――人数在15%左右――带到营地参加劳动，剩下的老弱病残以及带着孩子的母亲都立即被送进毒气室消灭。至少有230000名儿童死在比克瑙，大部分人都在到达后一小时内被处死，第一批被选出的男子平均还可以再活六个月到一年之间，妇女则是四个月。

那些被选中要进毒气室的人直接被送入地下室，告诉他们去淋浴。在毒气室的天花板上甚至有假的沐浴喷头。还有人告诉他们如果不赶快的话，营里为他们准备好的咖啡就要凉了。一旦进入更衣室，就有人告诉他们把衣服挂在钉好的钩子上，然后就被赶进毒气室，身后沉重的金属大门随即关上。绿色的齐克隆B球丸通过房顶的洞投放下来，在15到30分钟内，里面的人就全部死亡。特遣队把尸体残骸和人的排泄物清理出毒气室，这样下一批人就看不出之前发生过什么事。在楼上，特遣队用特制的耙子把尸体推进焚尸炉，他们把大堆大堆的骨灰用独轮手推车运到两个火葬场之间的池塘，或者用卡车把骨灰扔进维斯瓦河的支流索拉河中。通常，单单在一个毒气室内――奥斯威辛有六个24小时运转的毒气室――10个党卫军人员加上20个特遣队员在90分钟内能杀死2000名犹太人。许多党卫军人主动加班，为了多得些奖励的酒肉。有时仅仅在奥斯威辛集中营内，24小时内就有多达20000人被选出来，送进毒气室、火化并销毁骨灰。

在铁路专线上逃过第一次“挑选”的犯人被称为“斜坡”，还有很多这样的筛选，例行的军营检查会确定犯人是否还有力气有效地劳动，其标准十分随意，不能有效劳动的人就被毒死。犯人医院也会进行“挑选”，党卫军医生会定期挑出“无法医治”的病人。今天去参观奥斯威辛――比克瑙集中营，直面那些场景所带来的恐怖要比任何书本或学术研究都强烈。受难者留下的鞋子堆成山，要凭借梯子才能爬得上。那里还展示了一堆一堆的剃须刷、牙刷、眼镜、假肢、童装、梳子和毛刷，还有上百万件衣物。大部分犹太人的财产都已被纳粹没收使用，但是1945年1月哨兵逃离苏联时，留下了这些东西。他们留下了七吨重的头发，这些头发原是要用于德国纺织工业的。一堆一堆的手提箱有成千上万个，用粉笔写上了物主的姓名和出生日期。

1942年9月14日，施佩尔拨款1370万帝国马克，全速修建比克瑙的棚屋和屠杀设施。1943年，编号1到4的四个毒气室已全部投入使用，1944年春末，43.7万名匈牙利犹太人到达这里时，设施已全速运转，几个星期就被全部杀害。匈牙利的犹太人从1944年3月开始被驱逐到奥斯威辛。党卫军中校艾希曼指挥特种部队八星期内遣送了43.7万犹太人。他后来向好友吹嘘自己促成了400万犹太人的死亡，可以“笑着跳进坟墓”了。