沮丧的张德能只好到耒阳去找薛岳。
赵子立见张德能已走，在日军占领岳麓山前，也带着人向南撤去。
在路上，遇到张德能，赵子立说：“长沙是丢了，建议你赶快收容部队，到岳麓山以西进行反击。”
张德能说：“你看部队这个样子，怎么能收容，又怎么能反击岳麓山？”
赵子立说：“不管收容多少，都应该这样做，都能这样做，只要你放着枪，责任就要轻些，想想常德余程万的例子！”
张德能仰天长叹，说：“不去了。听天由命吧。”
耒阳的薛岳，得知长沙被日军攻占后，一言不发。
武汉会战后，薛岳在长沙坚守了五年，这一次，三个小时即告失。
他的第9战区也被日军冲击得七零八落，一些军进入各自为战的境地，指挥系统陷入了瘫痪。直到一年后抗战胜利前夕，第9战区仍呈碎片化状态，他的司令长官部不得不寄居于广西。正如我们知道的那样，薛岳对桂系一直有成见，这样的结局本身，对他来说就是一种屈辱。薛岳的精气神到抗战胜利时还没缓过来。当时，军委会给薛岳安排的受降点是南昌（薛岳最后派第58军军长鲁道源接受第11军投降），长沙的受降由时为第4方面军总司令且刚在雪峰山会战中取得完胜的王耀武负责。从长沙到南昌，虽然地理上不太远，但在薛岳的心里却隔了千山万水。如果没有这次长沙大败，其抗战生涯又是多么完满。当然不应以成败论英雄，但作为人生的遗憾又没办法无视，想必性格高傲如薛岳，在没人的时候于湘东南的小城耒阳，也会流下两行复杂的眼泪吧。
只说第9战区参谋长赵子立一路南下，在衡阳遇到第10军军长方先觉，方劝赵不要去耒阳，说：“你没有再去耒阳和薛岳见面的必要了，就去桂林、重庆和他打官司好了。”
头已昏沉的赵子立于是在衡阳西站上了湘桂线上的火车，火车还没开，遇到一个同僚，对他说了一番话，大意是：你径往桂林，要是薛岳报你潜逃，怎么办？赵子立一惊，立即下了车，转而上了东站的粤汉线上的火车（两条铁路在衡阳由湘江公铁两用大桥连接，此时尚通车），到了耒阳城。
薛岳见到赵子立，说：“你回来了？你休息吧！”
赵子立说：“我没能尽到职责上应尽的责任。”
张德能也到了耒阳，薛岳于是大骂张德能，后者老老实实听着。
赵子立说：“第4军在变更部署和渡河中发生混乱，以致长沙迅速失守，固然是值得痛心的事，但纵使不发生这个错误，守一个星期，两个星期，外线的部队能打上去吗？至于第4军，虽然溃了，但损失不太大，无异于前方解散，后方集合，收容起来还可作战，不必生气了。”
见赵子立这样说，薛岳叹了口气，说：“这次真是一个败仗。”
长沙如此快速陷落让重庆军委会震惊，蒋介石没法处置薛岳，只能叫张德能、赵子立先去桂林向白崇禧报告作战经过，再到重庆接受调查。薛岳说赵子立认识的人多，希望他到了重庆帮张德能说句话。赵子立就此离开供职达七年之久的第9战区长官司令部。赵子立跟著名战地记者胡定芬同行桂林，在路上谈及战局时，两个人都感慨万千：仗打了七年了，局势反而更糟糕了
到了桂林后，赵子立向白崇禧汇报长沙之战的始末。
赵子立跟白崇禧谈到薛岳，白不等其说完，就大声道：“当时我就反对在长沙决战！荒谬！荒谬！你知道，薛伯陵是不听我的话的，委员长当时也没个准主意！”随后，白崇禧给蒋介石写了封信，证明赵子立在长沙未被授予指挥之权。
赵子立说：“张德能不能掌握部队是能力和疏忽的问题，究与临阵退却、贪生怕死有所不同，也请您给他写封信说明一下吧。”
白崇禧还算厚道，提笔又写了封给张德能说情的信。
尽管有白崇禧的信，但张德能到重庆后，还是以“临阵脱逃罪”被蒋介石下令枪毙了。
当时守了47天的衡阳刚刚失守，蒋介石以为第10军军长方先觉已战死，正计划将衡阳改名为“先觉城”，但随即又得到方已率残部向日军缴械的消息，加上薛岳又抗命不把部队拉到湘西，他的各种怒气和怨气集到一块，也就没人能救张德能了。
赵子立自己也差点被牵连。
不过，赵是很聪明的，早在日军进攻长沙前，第24集团军总司令王耀武打电话到岳麓山询问战况时，赵就向王说明：自己虽是战区参谋长，但没被赋予指挥权。随后，第26军军长丁治磐亦打电话到岳麓山联系事宜时，赵又把相同的话跟他说了一遍，以叫他们日后做证人。在调查长沙陷落一事时，赵子立把那些话跟何应钦和军法执行总监部正副总监何成浚、秦德纯说了一遍。最后，蒋介石给军法执行总监部写了个字条：“赵参谋长即未负实际指挥责任，应毋置议。”赵子立遂被免职，保送陆军大学将官班甲级第1期学习。1945年初毕业，在何应钦任总司令的陆军司令部任高参，旋即转调刘峙第5战区司令长官部任参谋长，一直到抗战胜利。
回过头来再说长沙陷落当天，蒋介石在重庆召集了紧急军事会议。
军令部次长兼作战厅厅长刘斐认为：长沙陷落后，敌入广西的态势已成定局，还是建议在桂柳决战。
军令部长徐永昌认为：日军兵力和补给不足，有可能攻占株洲以南的渌口就止步。一旦进攻衡阳呢，之后的重点当不在湘桂铁路这边的桂林，而在于粤汉铁路的南段。徐永昌这样讲，是基于北面的平汉线已被日军打通，南面的粤汉线势必在其作战计划内，故而认为广西方向的张发奎第4战区问题不大，而广东方向的余汉谋第7战区将首当其冲。
此时军令部另一个次长叫封裔忠，以前做过汤恩伯部队的参谋长，他认为：北面的河南会战一败涂地，接下来，不管日军战略企图如何，都应在衡阳周边与敌死战，而不能将之轻易放弃衡阳，否则国军在国际上的声誉难保，甚至会影响到美国的军事援助。
督导各战区的白崇禧从桂林来电，认为在长沙和衡阳之间，第9战区的部队已很难组织起有效战斗，与其被完全冲垮，不如迅速向桂林集结。他同意刘斐的判断，日军必攻广西，但同时认为，攻广西之前，敌人至少会休整三周，可以利用这个时间差完成桂柳决战的准备。
上面各种观点中，最打动蒋介石的是封裔忠的一席话，所以在这个会上，确立了一部守衡阳、两翼进行夹击的方案。在会上，蒋介石着重提醒刘斐，警惕日军突攻大后方。在此之前，作战厅拟定了一个应对举措，即以有力部队控制六盘山（陕甘宁交界处）、秦岭、巴山、鄂西、湘西、桂东、滇南连线上的各个重要据点。
这时候，带着战斗司令所向长沙推进的第11军司令官横山勇，在途中向第68、第116师团下达了向衡阳追击的命令。横山在战前将湖南比作一个水果：湘阴、平江、长乐街等地是“厚皮地带”；宁乡、湘潭、株洲、浏阳、醴陵、萍乡等地是“果肉地带”；最后的果核，则是衡阳（在横山看来，第11军攻陷长沙后，在向衡阳进发时，已由外线作战变为内线作战，因为他们是在第9战区余部和第6战区主力的夹击中穿越湖南。从这个角度说，横山的判断跟服部卓四郎一样，中日最激烈的决战将发生在桂林）。
在衡阳攻略中，日军以会战开始后中路第一线的岩永汪第116师团、佐久间为人第68师团为攻城主力。湘西一线，继续留下第40师团做外围掩护，同时负责攻占湘乡，牵制王耀武的部队。主力第3、13、34师团仍控制在湘东一线，围追第9战区的余部。至于攻入长沙的第58师团，则在原地确保补给线并修筑被破坏的长衡公路。日军攻往衡阳之路也不是那么顺利的，这主要是因为中美混合空军对他们进行了大规模空袭，如服部卓四郎在《大东亚战争全史》中写到的那样：“当第11军向衡阳方面追击时，在敌空军力量处于优势的情况下，我第一线部队和后方部队都被迫不得不在白天隐蔽，而只能在夜间行军和作战。”
在日军兵锋下，蒋介石亲点方先觉第10军守卫衡阳。
常德会战中，因救援余程万第57师不力，方先觉被撤职留用，但新军长一直没到任。现在大战又来，5月29日，蒋介石亲自给在衡山代理军长的方先觉打了个电话，重新任命其为第10军军长，叫他做好赶赴衡阳的准备，守10天到半个月，配合两翼部队（湘东薛岳残部，湘西王耀武集团军）的夹击。
两天后，薛岳的正式命令到了。
方先觉即于6月1日率葛先才预备第10师、容有略第190师（常德之役后，第3师和预10师都损伤不小，方先觉遂将第190师定为后调师。就是说，把该师士兵分拨到第3师和预10师补充，第190师本身仅保留班长以上部队长和相关人员，由他们到去接收新兵并加以训练。由于大战在即，方先觉停止了尚未完成的拨划，仍叫第190师以建制番号参战，不过此时全师剩下的兵力只有1200多人了）坐火车赶赴衡阳，周庆祥第3师则依据薛岳的命令，留在衡山一带滞敌。
<h4>
灼热的地狱（1）：开场绝杀</h4>
湘江西岸的衡阳地处湘桂铁路、粤汉铁路交会处，两条铁路穿衡阳而过，一条在湘江西岸伸向广西，另一条在湘江东岸伸向广东，连接它们的是1944年初才落成的湘江公铁两用大桥。
从1939年中日战争进入相持阶段起，湖南就作为正面战场的主战场，经历了多次长沙会战和一次常德会战，但衡阳还未亲临战火。由于地处湖南后方，又是交通枢纽，所以从湘北和外省向大后方逃难的民众，以及很多军政后勤机构、公司商会都留驻衡阳。太平洋战争爆发后，衡阳机场又长期驻有中美混合空军的轰炸机群。可以说，在战争后期，衡阳的军事战略价值完全超过了长沙，同时也成为当时大后方仅次于重庆、昆明的工商业城市。
第10军搜索营第1连连长臧肖侠后来回忆：“如站在城南雁峰寺上，可以看到城北来雁塔高耸云际，塔影亭亭；西郊的花药山，苍松翠柏，风景艳丽；难忘湘桂铁桥，横跨湘江，姿态雄伟，湘江一水如带，舟船如织；太梓码头，市声鼎沸，大街行人熙熙攘攘……”第10军通信兵卢庆贻的回忆则是：“那时衡阳城是大后方第二大工业城市，被喊作‘小上海’。我到达时，衡阳街头还完全维持了正常生活秩序。虽然日本飞机不停发动空袭，但商店的店堂还全都敞亮豪华，卖的东西花样也多，市面很繁荣。城内的车子白天开到郊外防空，下午就返城开店，一直到午夜，有些店子还通宵营业，有点‘不夜城’的味道。”
会战爆发前，几乎所有衡阳民众都认为：这座城市将幸运地躲过这场战争。已经成为强弩之末的日本人，不可能，也再没有力量进攻长沙以南的衡阳。可是入夏后，随着长沙转瞬陷落，日军迅疾南下，一下子把抗战爆发后安宁了7年的衡阳推到了大战的前台！
方先觉在6月1日率部进驻衡阳后，第二天就带着军参谋长孙鸣玉、预10师师长葛先才和第190师师长容有略以及军部参谋开始勘察城外的地形。
衡阳呈长方形，虽然在抗战后期工商业繁华，但实际上整个城市是非常小的，就城区而言，东西只有500米宽，南北1600米长。如果从城外主阵地算起，南北长也不过2600多米，东西宽也不过1500米。具体说，东面依湘江，北面依草河。草河又称蒸水，虽不是很宽，但比较深。从北面的草河经西北面的小西门再到西南的大西门这一带，地势比较平缓，有许多池塘。大西门以南，一直到正南面，则是一些不高的山丘：天马山、虎形巢、张家山、枫树山、五桂岭、张飞山、萧家山、接龙山、花药山、岳屏山……
日军从北而来，乍看上去，其攻击重点必在西北。方先觉结合先前守长沙的经验，判断敌主力必迂回到西南进行猛扑。因为西北地势平缓，西南则是连绵的丘陵。抢占西南高地后，虽不能说可俯击衡阳城，但至少在态势上更有利。
第10军进入衡阳后的第一次作战会议，主要决定的是分配阵地的问题（周庆祥亦从衡山返回参加）。
方先觉的第一句话是：“防御线已决定，阵地分配你们意见如何？”
其实，这潜台词是：敌人主攻面，西南方向的阵地，由谁来守卫？开始时，周庆祥、葛先才、容有略都沉默。
容有略沉默是因为他手里就一千来人，守不了。
葛先才见没人说话，起身道：“各位师长既无表示，我先来表明我的意见。各师不要将阵地交给我。”
葛先才这番话当然是反语。
多年后，葛先才有这样一番回忆，解释这件事：“军长早已有腹案，按理以命令执行即可，为何他向各师长提出征询？有他的道理在焉。其实主阵地之防守，也只有第3师或预10师担任。这两师之战斗力在伯仲之间，军长之所希望预10师守主阵地，不是两师战力问题，而是两位师长性格以及胆识指挥运用才能方面不无差异，再则测验周师长与我，看谁有勇气魄力，自愿肩担此重任。其次，遣将不如激将，迫使我自动挺身而出，担当重任。战场上实施战斗，主动与被动，对其斗志之高低有极大出入。另一方面，若是军长没有此一曲折安排，硬性指定预10师，担任南面之守备，第3师各级部队长会心有不服：‘预10师能打硬仗，我第3师不能打硬仗吗？’这很显明军长轻视第3师，这样一来，会影响第3师士气。在一个战壕内，切不可自我分化，减弱战力。分阵地时，周师长没有自动提出，愿意担任主阵地之守备，第3师官兵则无话可说了。”
就这样，葛先才接下城西南的阵地。
方先觉随即命令容有略第190师暂时守备城西北。
实际上，由于周庆祥第3师仍控制在衡山一带，也没办法立即接下衡阳西南的阵地。
在当时的情况下，西南面的阵地只能交给已经过来的预10师。方先觉带着精明强干的工兵营长陆伯皋反复观察地形后，下了一道对衡阳保卫战来说极为关键的命令：把城南和城西南的各个山丘对外的一面，全部自半山腰起，往下削成四五米高的直上直下的不能直接攀登的人工断崖。削到山脚即地面后，再继续顺着往地下挖（断崖下的外壕当分两种，一种是顺着断崖直接往下挖，二是在断崖外侧挖。因为日军士兵攻击时，曾有过靠着山体断壁躲避子弹的场景出现。见第116师团第120联队旗手星野博的《衡阳最前线》）。这就是后来给日军以大量杀伤的“方先觉壕”。
靠着这一断崖加外壕的战斗工事，第10军把自己的阵地变为了一台绞肉机。
具体的阵地样式，由葛先才主拟，陆伯皋加以补充和完善。也就是说，后来令日本人付出惨重伤亡代价的独特的衡阳工事，是方先觉、葛先才和陆伯皋合力的结果。但也不要忘记时任衡阳市长的赵君迈。当时衡阳是县、市并置，县长是王伟能，市长是赵君迈。赵君迈本人曾留美，在威斯康辛大学读书时，学的就是土木建筑系。在衡阳的阵地防御上，如果说贡献了自己的一份力量，是一点也不奇怪的。而且，在开工后，赵市长动员了上万名青年壮工协助守军修建战斗工事，又组建了数千人的抗战后援会，并提供了大量的建筑材料。
衡阳士绅民众为保卫自己的城市贡献了大力。
只说葛先才，大战之前，为构建阵地而殚精竭虑。
武汉会战结束后，衡阳就修建了防御阵地，这一圈阵地距城区是很远的（当时按四个军的兵力修建的阵地）。方先觉来到衡阳后，仍叫葛先才依托原阵地进行加固和改造。葛先才反复观察后，觉得大有问题。首先，原阵地是按四个军的兵力修建的，正面是非常宽的。而现在进驻衡阳的第10军，连一个整军都不到，没有力量分散兵力，只能缩小阵地。假如战事延长，出现伤亡重大时，更没有把握能控制阵地；此外，以南面的主阵地而言，一线主阵地设在湘桂铁路以南400米处的起伏地带，后面的张家山是作为二线阵地存在的。而铁路以南只有停兵山、高岭两个相对显著的高地，其他阵地皆位于缓坡甚至平原地带，而且周围的树木非常稀少，不利于部队调动、增援、弹药输送、伤兵后运和炊事兵三餐往返。
当天晚上，葛先才一夜没睡着。
第二天一早，葛先才上了辆吉普车，向湘桂铁路南面的一线阵地工场驰去。
工兵营的战士和衡阳民工早就开工了。但葛先才没在阵地停留，而是叫司机把车开到阵地外约五六百米处。下车后，变换各种角度观望前面的阵地。上车再往前开，到千米之外后，地势已经渐高，这时候再反观阵地，顿有俯视之感。葛先才立即返回工地，打电话给方先觉，认为应立即变更部署，改湘桂铁路以北的连绵山地为一线阵地，理由是：正面小，树木多，阵地遮蔽良好，在阵地背后运动兵力时，敌人完全看不见，不受敌人火力的威协。
方先觉听后，说：“我即来现场视察，研究后再作决定，你在30团位置等我。”
葛先才打电话给第28团团长曾京（中央陆军军官学校8期，湖北沔阳人）、第29团团长朱光基（黄埔军校6期，安徽休宁人），通知他们二人到第30团团长陈德坒（中央陆军军官学校10期，四川梁山人）的阵地集合。
方先觉带着参谋长孙鸣玉（中央陆军军官学校7期，山东即墨人）随之到来。
几个人乘车对阵地又进行了反复的观察，最后方先觉说：“艺圃啊，确如你说的。当初我把铁路以南定为一线阵地，想的是纵深大、弹性强。现在变换角度看，确实有不少缺点。一旦被敌寇快速突破，身后阵地的防守即陷入仓促。立即放弃现阵地，一线阵地改在铁路以北山地。”
为免于被日军利用，葛先才下令将铁路以南的战斗工事全部填平毁坏。
就这样，湘桂铁路以北的虎形巢、张家山、枫树山、五桂岭等成为一线主阵地。
葛先才拿出的方案是：把以上诸山丘对外的一面从半山腰削成与地面90度角的断崖，另外挖设外壕后，又布置了四道防御工事：由里往外，最里面，铺设有尖钉的木板；次一道，是挂有连串手榴弹的鹿寨（即树围子）。手榴弹以10个为一组，拉一线而全部爆炸；再次是铁丝网；最外面是雷区。断崖上，挖设手榴弹投掷壕。壕后是碉堡、散兵坑和观察哨。每座碉堡均设侧击火力孔。葛先才尤其提醒陆伯皋，堡垒间用侧击火力编制火网，绝对禁止有向正前方的直射射孔。碉堡间用深1.5米的交通壕连接，呈“之”字形通往山顶。散兵坑依据地形在交通壕前后挖设，深度亦在1.5米，以士兵站起身能投掷手榴弹为宜。
葛先才还告诉陆伯皋，夏季衡阳多雨，散兵壕的坑口要有遮阳避雨的设备，并提醒：“不要以扫清射界为名砍伐阵地上树木，树木即可掩蔽阵地，又能在夏天遮蔽阳光，总之是利大于弊的。预备队官兵在阵地后面的山脚下，每人挖一个曲尺形的单人掩体。在两高地间的鞍部的前面，必须构成密集的交叉火网，火网前布置坚固、复杂的障碍物，如果地形许可，障碍物外挖深宽的外壕，壕底须有被掩盖的地堡，同时想办法通过技术手段防止敌人藏匿在外壕之内。我没想到的，用你的脑子去想。我每天都在工场，有问题随时解决。我不能解决的，请示军长！”后来，就如何防范日军隐藏于外壕中，陆营长想出的办法是，在既宽且深的外壕中间位置铺设一道使人无法立足的铁丝网。
衡阳处于铁路交通枢纽的位置，最不缺铁轨钢材，守军直接将之运上山，做碉堡的龙骨。第10军老兵彭中容回忆：“那工事好得很哪，那个一十二米长的铁轨，铁轨一十二米长，现在不知道多长，搬到山上去，钢管水泥架起，上面沙包、内板，像房子一样的砌上，一个碉堡里可以待一二十个人，大的碉堡可以待一排多人，一排三四十个人。”
城西没什么高地，方先觉叫军民勾连了四道横向战壕，前面同样是铁钉板、挂着手榴弹的树围子、铁丝网以及雷区。战壕间纵横交错，从最外面的一道至城垣，之间有300到400米的纵深。在湘江西岸和草河南岸至城垣间的地带，同样勾连出阵地。至于湘江东岸和草河北岸，则设立前进阵地，但不进行死守。
经过三个多星期的加固和新建战斗工事，衡阳到6月20日以后完全变了一个模样，整座城市和它的外郊已俨然成为一个巨大的战斗堡垒。日军围攻前，第11军司令官横山勇实际上已经派出情报参谋竹内实孝乘侦察机对当地地形进行侦察了。但竹内还是大意了，走马观花一番后，就闪了。向衡阳推进的第68师团和第116师团也没得到任何情报指导，以至于后来日本人在《一号作战之湖南作战》中说：“对其防卫设施等调查不详，不要说第11军司令部，就连第一线部队也是在攻击中才得知其梗概的。”
衡阳城外的最终阵地划分如下：
从西南往南连线：范家庄（西禅寺前沿阵地）、虎形巢、张家山、军舰高地、枫树山、141高地、五桂岭南翼为第一线阵地；从南往西南连线，五桂岭北翼、接龙山、岳屏山、萧家山、天马山、西禅寺为二线主阵地。一线、二线间，还有张家山、虎形巢后的萧家山，这三山间的路口名为两路口，被守军用重火力封锁。铁路以南的高岭、停兵山两据点被定为警戒阵地，不在死守范围内。西北阵地则北起草河南岸的杜家港、演武坪，经易赖庙前街、青山街、瓦子坪，至杨林庙，与西禅寺、天马山相连。湘江这边，阵地与城垣间没什么纵深，部队准备了满装石油的大桶，随时准备向江中倾倒，以在日军强渡时，点燃浮油而进行火攻。
方先觉把军部设在城内中央银行，并于五桂岭湘桂铁路局设置战斗指挥部，这里距离一线阵地不超过400米。
方先觉叫炮兵部队把衡阳三面的要点、路口、地标位置的距离测量准确，进行试射。
在下令疏散衡阳市民的同时，方先觉亦留下精壮劳力千人以上编成工事抢修队、弹药运输队、消防救火队，最终他们成为保卫战中死士的一部分。由于医护人员同样匮乏，方先觉叫特务营拦截任何途径衡阳去往后方的医疗队。在这种情况下，军政部军医署的两个兵站医院被截留在衡阳。
时任第69兵站医院护理长的罗立三说：“方军长，我们已经参加长沙和湘东的战斗了，这是奉命向桂林撤啊，您就让我们过去吧。”
方先觉微笑着说：“不行。”
方先觉面容和善，打起仗来却是个狠角色。
第10军通信兵卢庆贻对方先觉曾有这样的回忆是：“我们报务员天天都可以看到他，但都不怕他，尤其是我年纪最小，方军长一直对我很和气。但是对自己面前的连长、团长，他却几乎没有一点笑色，讲的话一是一、二是二，讲出来就要作数，部下没有不遵守他命令的。如果哪个做得不好，他就处分哪个，但从不开口骂人。”
总而言之一句话，能想到的方先觉都想到了。
方先觉的顶头上司，是第10军老军长、时任第27集团军副总司令的李玉堂。
李玉堂已经奉命指挥衡阳外的部队。方先觉率部到衡阳后，李玉堂就由城西南白鹤铺驻地前来看望守城将士，并以第三次长沙会战与敌死拼的往事鼓励众人，但李之凄楚神色也是显而易见的。
6月中旬时，衡阳外围态势如下：
湘西方向，王耀武集团军仍与日军在胶着。但日军放在湘西的兵力很少，主力只有一个第40师团。从这个角度说，王集团的第74、73、100和第79军是有问题的。在湘东方向，杨干才第20军、王泽浚第44军、傅翼第72军、鲁道源第58军、丁治磐第26军，正在以醴陵为中心的湘东地带跟日军混战。
重庆军委会这时候命令薛岳带着部队往湘西转进，但被拒绝了。
第9战区的作战地域是湖南、鄂南、赣西，在湘东南设立司令长官部，从军事地理上看利于指挥；如果到了湘西，日军一旦控制平汉线南段，长官部和湘东、赣西就隔绝了。这是薛岳向蒋介石陈述不去湘西的主要理由。白崇禧在7月中又传达军委会的命令，叫薛岳将长官司令部转到湘西的洞口县，第二次被拒绝。赵子立回忆，在私下，薛岳则说，“不去给重庆守大门”。作为粤人的薛岳，老家就在粤北乐昌，如果带部队移到湘西，就意味着把兵力布置在湘桂线两侧，所以他宁愿留在湘东南，紧贴着自己的老家，也不愿意给“重庆看大门”，同时再给“给广西看大门”。
关于薛岳不服从命令这一点，后来军令部长徐永昌在日记中猜测：薛是想，一旦出现“大变局”，在湘东、粤北自立。这也并非完全的空想。在李济深（时任桂林行营主任）口述、张克明整理的《李济深先生略历》（《文史资料选辑・第67辑》）中有一段话，称当时李派人去重庆见史迪威，此外“又派人去与薛岳联络，薛岳那时也与美国接上了头。我又派人与余汉谋联络”。
联系什么事呢？
美国驻桂林领事馆林沃德向华盛顿的报告是：“为应对中国的严峻局势，一个名叫‘西南联防政府’的新政权，将在不久后成立。该政权的参与和支持者，包括广东、广西、湖南、福建、安徽、四川、云南和西康等省的诸多军政要人。该政权之目的如下：一、取代目前重庆的一党一人独裁政府；二、实现国家统一，全民动员击败日本；三、与盟国更紧密的合作。各军政要人会以公开发出联名电报的方式，要求蒋介石辞职，预期不会发生武装冲突。临时政府将由李济深领导。李是重庆军事参议院院长，在1926年蒋介石领导的北伐战争中，担任过总参谋长。”
美国人声称张发奎、余汉谋、龙云和薛岳以及四川和西康的军阀都预谋此计划，但张发奎在《张发奎口述自传》中进行了否认：“我记不得是否曾支持在李济深领导下，成立一个临时政府——西南联防政府的计划……美国人知道薛岳、余汉谋和我都是李济深的前属下，但李济深确实从未同我讨论过这一计划。”至于薛岳是否真的参与了这个谋划，我们无法深知。不过，薛跟陈纳德关系很好，曾一度争取美国军火直接补给到第9战区。此外，正如我们知道的那样，在历史上，很多将领反过蒋，上面提到的人都有过这方面的历史。至于川中军阀，又素以无大局观著称，一有风吹草动就掺和，故而在重庆政府风声鹤唳时，起来策划迫使蒋介石下野的行动也不是没有。
至于史迪威，曾说过一句话：“中国问题的药方是除掉蒋介石。”每每有让人取而代之的打算（据说蒋视察兰姆伽驻印军训练营时，史迪威曾策动刺杀阴谋）。1943年，史迪威想拉拢陈诚取代蒋而未果。现在，日本人的“一号作战”令重庆军大败，史迪威开始通过罗斯福让蒋介石交出兵权，由他来指挥中国军队。在获悉以上计划后，史迪威曾给美国陆军参谋长马歇尔去了份电报：“蒋若得到该消息，为自我拯救，当会同意由我统帅全部中国军队。”结果是，美国政府并不打算在这时候迫使蒋介石下野。到1944年秋，在重庆和华盛顿的较劲中，罗斯福妥协了，史迪威被调回国，成立“西南联防政府”的计划也就失败了。对这件事，蒋介石不可能没有耳闻，但由于涉及面广，一些将领是否真参与、参与程度有多深，在鞭长莫及、混乱纷杂的1944年，不能完全地予以确定，结果只能是不予深究，最终不了了之。
再说日军那边。
由于沿湘江而下的佐久间为人第68师团和岩永汪第116师团并不参加长沙之战，而是一路马不停蹄地向衡阳而来，导致转进到衡山的罗奇第37军根本无法组织防线，在株洲不战而退的沈发藻暂2军更是全无战斗意志，在没怎么接战的状态下继续后退。就这样，日军沿湘江东西两岸而下，在宽45公里的正面快速向衡阳推进。
长沙陷落后，第10军军长方先觉命令衡阳市民和机构进行最后一次疏散，一小部分人人坐上粤汉线的火车，更多的人则登上湘桂线的火车，往广西撤退。一时间，衡阳东西火车站人声鼎沸，人们扶老携幼，又一次陷入了逃亡的旅程。从一开始疏散，市长赵君迈就要求各户家中留米，作为第10军的备用粮食。衡阳盛产一种米酒，称之为胡子酒，又叫张飞酒，有酒商将上千坛美酒留下来，供守军奋勇杀敌前一醉。
军委会负责后勤和运输的部长俞飞鹏亦奉蒋介石之命抵达衡阳，督办和协调补给，为守军运来了大量手榴弹，在随后的战斗中发挥了极重要的作用。不过，由于后来战斗时日绵延，弹药最终还是不够打，葛先才在《长沙、常德、衡阳血战亲历记》中曾这样回忆：“只要是我军所需，而邻近各兵站有库存者，皆尽其所有送至衡阳。也多亏俞部长莅衡，我军得到大批超额粮弹及各类军需器材，但未料及战斗延长至四十七天之久！全线昼夜激战，每日弹药消耗量惊人，尤以山炮野炮弹，于九天后告罄。虽曾于不定期每次空投四十五发，但杯水车薪，无济于事。”
与此同时，军委会调派第7战区黄涛（云南讲武堂，广东蕉岭人）第62军从广东英德出发。该军到曲江后乘火车北上，作为策应第10军守城的部队，于6月23日抵达距衡阳仅有几十里的西头塘和二塘间。前去侦察的第62军士兵，甚至能远远望到正在张家山加固工事的第10军士兵。
两天前的21日深夜，蒋介石给在衡阳的方先觉打了个长途电话：“你第10军常德之役伤亡过半，装备兵员迄未补充，现又赋予衡阳核心守备战之重任。此战关系我抗战大局至巨，盼你第10军全军官兵，在此国难当前，人人奋发自勉，个个肩此重任，不负我对第10军期望之殷。我希望你第10军能固守衡阳两星期，但守期愈久愈好，尽量消耗敌人。我规定密码二字，若战至力不从心时，将密码二字发出。我48小时解你衡阳之围，你是否有此信心？”
方先觉说：“本军不惜任何牺牲，战至声嘶力竭，死而后已。堪以告慰委员长者，据近日来的观察，全军官兵无一人有怯敌之色。人人喜笑颜开，努力构筑工事备战。斗志极为高昂，未将即将来临之恶战放在心中。现在厉兵秣马，准备与敌决一死战。”
蒋介石说：“很好，很好，很好！我又从昆明第48师那里抽调了一个战防炮营给你，第74军、第46军炮兵各一部也给配备给你，敌军合围前必至。你好自为之，祝你一战成功。”
蒋介石随即挂了电话。
为给衡阳守军一个下马威，以湖北监利县白螺矶（位于湘鄂交界处，洞庭湖附近）为基地的日本第5航空军在6月22日第一次空袭了衡阳，但随即遭到从广西桂林、柳州，湖南永州、芷江、江西赣州、遂川基地起飞的中美混合空军的战机的反击。在陈纳德的指挥下，这段时间他们正在以每天超过100架次的频率轰炸逼近衡阳的日军。中国的“驱逐之王”高又新也驾驶着战机飞临衡阳，来捕捉日机。
第116师团在岩永汪指挥下，在路上分出作为机动部队的黑濑平一第133联队，命其向湘乡转进，与右路南下的第40师团合围从长沙方向撤下来的中国军队，同时护卫师团的侧背，主力则在6月26日凌晨冲至衡阳西南。黑濑支队切断了由石潭到湘乡间的道路，把退下来的中国军队压到了南下追击的第40师团的正面，随后在涟水附近击溃第73军（两年中第三次被击溃）。6月22日午后，占领湘乡的黑濑联队向着衡阳方向追赶师团主力，这个联队的士兵此时还不知道，他们即将踏上黄泉路。
这一天，衡阳完成了疏散。
除守军和千余名辅助守城的精壮劳力外以及准备破坏该城重要设施的地方军统组织外，这座城市再无他人。
6月22日夜，湘江东岸的佐久间为人第68师团前锋抵达湘江支流耒水东北岸的泉溪。
饶少伟暂54师少量警戒部队与之接触后，就撤至耒水西南岸。6月23日午后，第68师团开始强渡耒河，遭对岸守军的猛烈反击。
47天的衡阳保卫战由此拉开大幕。
三天前，美国副总统华莱士访问重庆，蒋介石在与之交谈时承认现在的战局危急，但同时又表示：日军的进攻势头将很快被遏制。这当然是外交辞令。实际上，进入6月下旬后，作为基督徒的蒋介石，就开始每晚向上帝祈祷保佑衡阳了。
但上帝无法拯救衡阳，衡阳的荣誉只能靠第10军将士自己去搏取。
但这时候，似乎没人看好第10军。6月23日，重庆的军法执行总监部总监何成浚在日记中记载：“军令部报告战争情况，衡阳业已在倭寇严重威胁下，守军力量甚低劣，敌人不攻则已，否则与长沙必无二致。”
就在这一天，佐久间为人第68师团一部在新码头与饶少伟的部队接上了火，主力向南另寻渡河点，并在23日黄昏渡过耒水，奔袭湘江东岸的衡阳机场。此时，饶少伟暂54师是从长沙撤下来的，此时其尚有编制的一个团派出去俩营与敌接战。按薛岳的计划，适时放弃衡阳机场后，饶少伟就带着部队撤。与敌接战的那俩营，在湘江东岸一路向南，渐渐脱离了衡阳战场。东岸接火后，方先觉派容有略一部驰援，在机场南翼的五马归槽与日军激战。
饶少伟想带着剩下的一个营继续南撤，但被方先觉强行留下。
重庆军委会当然知道第10军兵力过少，尤其缺少炮兵，所以开战前，从云南第5军第48师、广西第46军和湘西第74军分别抽出一个战防炮营、一个山炮连、两个野炮连，配置给衡阳守军，已经赶到了战场。其中，第74军野炮营陈布新指挥的两个连进驻城南回雁峰（该部配备的法式野炮射程达15,000米，从回雁峰上可以伏击任何一个点的日军，但弹药有限）。此外，又一度将黎行恕第46军新19师配置给第10军，但大战爆发前又把该师调回广西（衡阳之战后期，该师又北调，参加所谓的解围战）。
现在，方先觉扣留下暂54师仅有的一个营，完全是没有办法的办法。
但薛岳对此很不痛快，暂54师是薛岳的嫡系部队，以至于后来薛岳对赵子立说：“第4军完了！暂54师也要完了！方先觉是故意要牺牲饶少伟啊！”
湘江东岸开战后，方先觉急令周庆祥第3师由衡山回撤，并命回雁峰上配属的第74军炮兵隔江攻击。就这样，一枚枚炮弹从回雁峰呼啸着飞越湘江，落入日军的阵地。方先觉随之来到城南湘桂铁路桥旁的新街视察，对扼守这里的搜索营第1连连长臧肖侠说：“你们严加警备，没命令不准任何人渡江，并严防敌奸偷渡！”
6月24日傍晚，周庆祥带着第3师主力撤回衡阳。一个团断后，仍在草河以北。
当天晚上，李玉堂在衡阳西站召开会议，参加者除第10军长方先觉、军参谋长孙鸣玉和周庆祥、葛先才、容有略几个师长外，还有第62军军长黄涛和他的部队长。
就在第62军在衡阳城外待命时，黄涛接到薛岳的一份电报：“拟将第62军两个师分别配属第4、9战区各一个师，立即开赴粤汉路以东湘南待命。”黄涛深感无理，表示没军委会的指示，自己不能做主。
薛岳就不再吭声。
后来来看，薛岳这完全是大声吆喝一嗓子，对方要是就范了就赚了；对方不听话呢，就当他没说。薛岳之无理调动，导致其威信大减。
对第10军的老军长李玉堂来说，于公于私都希望第62军紧贴着衡阳，所以在得知薛岳的做法后说了一句话：“薛长官到底是怎么想的？自己不去湘西就罢了，还想把策应衡阳守军的部队拉走！”
后来，重庆那边又来了一道命令，发电报来的是蒋介石侍从室主任林蔚，称：委员长关切衡阳外围的部队，要第62军与之保持电台联系，并令其后撤到70公里外的祁阳待机。这是7月初的事。也就是说，在衡阳已经爆发激战后，本来策应守军作战的第62军，却被重庆调离衡阳而远去了。林蔚解释说：在第62军与衡阳守军之间留出足够的距离，这样可以叫日军从容包围衡阳，等包围完了，第62军再从祁阳往衡阳进攻，跟其他援军一起与守军里应外合，进而击溃日军……
后来，衡阳守军等不来援军，固然有日军阻击猛烈的原因，但主要是军委会和援军自己的问题。作为方先觉的上峰，退到湘东南的薛岳一方面自顾不暇，一方面无意全力以赴地支援衡阳。重庆的蒋介石呢，倒是希望通过侍从室直接督导衡阳外围战事，但莫名其妙的胡乱调动最后只能是火上浇油。
方先觉第10军，就是在这样纷乱的背景下守城的。
日军攻破五马归槽阵地后，又突破冯家冲阵地，偷袭了守军还没来得及破坏的衡阳机场，主力在五马归槽以南东阳渡（距衡阳10公里）横渡宽500米的湘江。方先觉急令容有略将城西北的阵地交给刚刚回返衡阳的周庆祥第3师，自己亲率部队去夺回机场。
6月24日深夜，湘桂铁路开出最后一列火车后，方先觉向工兵营陆伯皋营长下令炸毁城南横跨湘江的公铁大桥的桥墩。陆营长念大桥花费巨资和大量人力物力艰难修建而成，至今还没几个月，不忍心进行彻底的爆破，向方先觉建议进行有限破坏，令日军没法在短时间内修复使用即可。
方先觉说：“伯皋，我支持你这个想法！但是能行吗？”
陆伯皋说：“我计算过了，只爆破大桥中间三截桥桁就可以达到目的，保证完成任务。”
在衡阳保卫战中，工兵营长陆伯皋中校发挥了非常大的作用。工兵部队长在作战时，一个主要任务就是炸毁相关设施以免被敌人利用。但是，陆伯皋在执行任务时，绝不是不管不顾地根据上峰的指令以求完成就好，而是完全做到走心思、动脑子，甚至想到以后的重建，真正负起艰难时代一个中国工兵部队长的责任。开战前，陆伯皋参与设计和指挥修建的阵地就不用说了，开打后他又带着工兵营不断驰援各个阵地，抢修被毁坏的工事的同时，也跟步兵一样与日军血拼，从一线的张家山到纵深的苏仙井，都可以看到工兵部队奋战的身影。
就在这时候，去广西领取美式山炮的炮兵营长张作祥带着六门最新美式山炮和2000发炮弹从日军的间隙穿过，进入战云密布的衡阳！
第10军驻衡山时，营长张作祥就已经带着部队去昆明了，奉命领取最新美式山炮12门并接受训练。本来早就能北返，没想到，途经桂林时，被驻当地的炮兵第1旅给扣下了。也不知道该旅怎么弄到了军政部的命令，愣是把第10军这个炮兵营编入了自己的部队，并令其进驻全州。方先觉得知此事后哭笑不得，只能直接向蒋介石汇报，后者气得哆嗦了好几下，叫来军政部长何应钦问怎么回事。何应钦说他从没下过这样的命令。
一笔糊涂账。
这也是1944国军之乱象的一角。
就这样，在蒋介石的过问下，张作祥营长才携带了六门山炮（仍被扣下六门）和全部2000发炮弹上了湘桂线的火车返回。
张作祥带着部队在距衡阳15公里的三塘站下火车，遇到李玉堂。
李玉堂说：“军委会没给衡阳我军配属独立的炮兵部队，故而我当然希望你全营能平安进入衡阳城。但敌人先头部队已过东阳渡，跟我军前哨接战。你营在进城途中，可能与敌遭遇，火炮有可能被截。不如在这里集结待命，一切责任由我负。”
张作祥说：“多谢总司令！但正如总司令所言，衡阳我军火炮稀缺，军长已多次催促我。我愿率部冒险入城，不惜任何牺牲。”
李玉堂仍有犹疑。
张作祥立即召集各位连长，征询意见。他们跪地起誓，愿冲入孤城，与火炮共存亡。
至此，衡阳保卫战战斗序列最终如下：
第10军军长方先觉，参谋长孙鸣玉，辖：
第3师，师长周庆祥（师部在城西司前街），辖：方人杰第7团（后鞠震寰接替）、张金祥第8团、萧圭田第9团；
预10师，师长葛先才（师部在城西南郊五显庙），辖：曾京第28团、朱光基第29团、陈德坒第30团；
第190师，师长容有略（师部在城内府正街），辖：俞延龄第568团、梁子超第569团、贺光耀第570团；
军直属部队：辎重团团长李绶光、搜索营营长何竹甫、炮兵营营长张作祥、工兵营营长陆伯皋、通信营营长袁大文。
配属作战部队之部队长：暂编第54师师长饶少伟（师部在江边铁炉门），辖第1团团长陈朝章；第48师战防炮营营长刘卓、第74军炮兵营长陈布新（野炮两个连）、第46军炮兵连长彭孔光（山炮一个连）。
一共17,600多人。
以上守军除步枪外，拥有轻机枪400多挺，重机枪近百挺，各种火炮100多门（主要是迫击炮62门以上、野炮4门、山炮10门、高射炮1门以上、速射炮12门以上、机关炮12门以上，战车防御炮7门以上），以及大量的手榴弹。
最终阵地扼守是：周庆祥第3师位置在城北和城西北；葛先才预10师位置在城南和城西南；容有略第190师支援暂54师湘江东岸作战，回撤后协助预10师守城南；饶少伟暂54师回撤后扼守湘江西岸。
葛先才于战前找军部军务处长统计参战人数：“据隔日告知，连非战斗员兵在内，自军长以下共计一万七千六百余人。其中能战斗官兵连军直属部队在内约一万四千人，余皆为特种员兵（指非战斗部队的军直属辎重兵团、通信营、卫生队、野战医院等）。军特务营、工兵营在常德之役未曾加入战斗，兵额较为充足。”（《长沙、常德、衡阳血战亲历记》）这个数字似不包括配属部队，如果算上的话，衡阳守军当超过18,000人。
在日军主攻面布阵的预10师师长葛先才深感任务艰巨。
葛先才派朱光基第29团以城西南张家山、虎形巢为核心布阵，派陈德坒第30团以城南五桂岭、江西会馆为核心布阵，以此构成城南和城西南一线阵地的要点，各自的预备队必须控制在阵地反斜面。曾京第28团留在衡阳城。当时周庆祥第3师尚未归建，方先觉故而将曾团定为军总预备队。但葛先才布阵后认为，陈德坒第30团正面广阔，必要时需曾团支援，希望将第28团定为师预备队。因为这件事，葛先才跟方先觉争起来，但最后方还是听从了葛的建议。不过，按军参谋长孙鸣玉的意见：葛先才使用这个团时，需得到军部的同意。
葛先才派陈德坒第30团张德山第7连扼守湘桂铁路以南的警戒阵地停兵山和高岭。
6月25日黄昏，湘江西岸出现的第一面旭日旗，在夕阳下显得冰冷而刺眼。渡过湘江的第68师团主力即太田贞昌旅团，在师团长佐久间为人亲自指挥下，在6月26日上午进入衡阳城南1000米外的黄茶岭；与此同时，在湘江东岸，容有略率部冒死出击，又把已经占领机场的日军打了下去，随即亲自按下起爆钮爆破了机场跑道。但方先觉并没叫他们马上撤回西岸。第190师本来就1000来人，其中战斗人员只有800多人，孤军悬于东岸，随时有覆灭的可能，军心由是不稳，但师长容有略不敢向方先觉诉苦。副师长潘质则给预10师师长葛先才打电话说这件事，葛先才亦认为，一旦日军用火力控制了湘江，第190师就完全回不来了，不是被全歼，就是像暂54师那两营一样，一路向南溃去。
葛先才给方先觉拨了电话，把自己的担忧告诉了方先觉。
方先觉：“你的意见呢？”
葛先才：“这一战重点自然在西岸，还是应该收缩防守。如果把190师孤军悬在东岸，恐对我军不利。再者说，已有飞机场暂54师的前车之鉴了。”
方先觉立即咆哮道：“穿上了军衣，遇上了敌人，就该死战，还有什么地域之别！东岸守得住守不住，我并没有重视，我只要190师每个士兵杀两个敌人！才能算是尽到了他们职责。否则的话，这种作战不力的部队丢了也罢。”
方先觉发起火来，葛先才还真是含糊，慌忙说：“军长说的是，军人都应该有杀敌的勇气和职责。可是军长，这一战，我们兵力实在太少，捉襟见肘，东防西设，兵力分散了，就会处处薄弱，被敌人各个击破，有违用兵之道啊。再者说，190师能在东岸杀敌，撤回西岸也照样能杀敌。他们撤回来了，就融入了整体，有了心理上的依靠，斗志更当强过在东岸，‘气壮’是战斗致胜的资本啊。”
葛先才见方先觉不语，继续说：“军长既不在乎东岸的得失，那就放弃东岸吧，把190师撤回来，这也没有违背军长的企图。撤回后，军长对他们师以一命换敌两命的要求，我来担保。再则，190师撤回西岸，把第3师次要的阵地拿出一部分交给容师长防守，这样的话第3师还能多控制一点机动部队。”
方先觉：“先才！你能保证190师的兵以一命换敌两命的战绩吗？！”
葛先才：“军无戏言，用我的人头担保。万一他们师杀敌人数不符，我预10师多杀些敌人，弥补差额，总该可以交差了吧？”
方先觉：“我不能朝令夕改，下达该师西撤的命令。190师交给你处理吧。”
葛先才：“好！谢主隆恩。”
方先觉说：“你这张嘴啊，我说不过你，总之你说的话要算数！”
后来，葛先才在《长沙、常德、衡阳血战亲历记》中追忆：“说实话，万一190师所杀之敌未能达到军长要求时，军长也不至于要我的人头。我之所以用人头担保者，乃利用这时机来激励190师官兵斗志。军长沙场老将，又好像我们有默契，一点就透，知我心意之所在，顺水推舟，接纳了我的请求，勉强算是一个‘苦肉计’。方军长和我，十余年战场生涯事，为达成目的，对内，真的、假的、软的、硬的，全部出笼，经常真戏假唱，我二人联手作战，通力合作，故我以战场老搭档称之。”
铁路桥爆破后，军部事先准备了两艘渡轮。在葛先才的布置下，撤退计划和火力掩护周详，加上驾驶两艘渡轮的衡阳舵手和船员毫不畏惧，在弹如雨发的湘江上来回往返，最后使得第190师在东岸的部队安全回到西岸，没叫一个伤兵掉队。一艘渡轮的舵手被日军的子弹射穿左耳，仍拼命掌舵，对副师长潘质说：“我流这点血自以为荣，拼着这一条命，也要将东岸的部队全部运送至西岸。”
鉴于再分兵据守机场已无意义，方先觉亦于当晚下令，叫饶少伟暂54师回渡到西岸，担负沿江警戒的任务。容有略第190师则协助预10师守备城南阵地，后来果然打得顽强。
第68师团另一部即志摩源吉旅团南下衡阳时走的是湘江西岸，此时经衡山，渡草河，6月27日晨，迂回到衡阳西北小西门外距城垣900米的青山街附近（像第58、68这样的丙级师团，由独立混成旅团扩充而成，建制上没联队长，师团长下面是两个旅团长，每人直辖四个独立步兵大队，每个大队辖五个步兵中队，总兵力15,000人左右。关于辖五个而非四个步兵中队这一编制见鱼住孝义《大陆殿兵团》）。