Након што је 1941. године пао у заробљеништво о његовој судбини се неколико година није ништа знало, а званично се водио као нестао. Он је за то време прошао кроз 13 логора и затвора, међу којима су били и неки од најозлоглашенијих логора смрти: Аушвиц, Заксенхаузен, Маутхаузен.
Захваљујући сведочењу канадског мајора, преживелог логораша концентрационог логора Маутхаузен, цео свет је сазнао за подвиг и судбину Дмитрија Карбишева. Крајем јануара 1945. године у Маутхаузен је стигао конвој заробљеника из других логора међу којима је био и Карбишев. У ноћи између 17. и 18. фебруара 1945. године генерал је међу око 500 других логораша после зверског мучења поливен водом на температури од -12 степени Целзијуса и убијен. Његово тело је спаљено у пећима Маутханузена.
Reuters
Последње речи генерала Маутхаузена биле су упућене онима који су са њим делили страшну судбину: „Бодрије, другови! Мислите на Отаџбину и храброст вас неће напустити!”
Велики отаџбински рат затекао је генерал-лајтнанта Карбишева у штабу 3. армије у Гродну, где је стигао ради инспекције војних објеката. Град је нападнут већ првог дана рата, 22. јуна 1941. године, а 27. јуна Карбишев се нашао у обручу. За време покушаја пробоја у августу 1941. године тешко је повређен у борбама у рејону Дњепра и у несвесном стању заробљен.
wikipedia.org
Немачка команда је била уверена да ће Карбишев без проблема пристати да пређе на њихову страну, али совјетски генерал је одбио све понуде за сарадњу и рад за непријатеља на изградњи утврђења. Одбио је да служи Трећем рајху и био уверен у коначну победу СССР-а, упркос интензивним психолошким притисцима.
„Моја убеђења не испадају заједно са мојим зубима због недостатка витамина у логорској исхрани. Ја сам војник и остајем веран свом дугу. А он ми забрањује да радим за ону страну која је у рату са мојом Отаџбином” - тако је говорио несаломиви генерал.
wikipedia.org
Немци су у њега полагали велике наде, јер имао је огромно искуство, утицај и ауторитет. Али није им пошло за руком да га сломе и наведу на издају.
„...испоставило се да је овај велики совјетски стручњак за утврђења, официр старе руске војске, човек који је превалио шездесету годину, фанатично одан идејама војничког дуга и патриотизма... Може се сматрати да је Карбишев неупотребљив када се ради о његовом коришћењу у наше сврхе као стручњака за војне инжењеријске послове” – овакви подаци су о њему пронађаени у материјалима немачких архива.
Звање Хероја Совјетског Савеза Дмитрију Михајловичу Карбишеву додељено је посмртно 16. августа 1946. године.