1944年6月下旬，日軍繼攻占長沙之后，又發(fā)起了對衡陽的進攻。中國守軍方先覺部奉命進行了英勇的抵抗。
此前，蔣介石曾打電話給駐守衡陽的第十軍軍長方先覺，命令他在衡陽固守10天到兩周時間，吸引消耗日軍兵力后，配合外圍部隊內外夾擊，將日軍主力消滅在衡陽附近地區(qū)。
6月23日凌晨，日第六十八師團抵達衡陽市郊，第十軍按預定計劃將價值上百萬元的炸藥裝入湘江大橋，將花費了2億元和無數勞工心血筑成的湘江大鐵橋炸毀。拂曉，日軍第六十八師團一部從泉溪市強渡來水，向第一九○師五六八團第一營前沿據點發(fā)起攻擊。衡陽保衛(wèi)戰(zhàn)正式拉開。
24日，日第一一六師團抵達預十師陣地前面，第三師主力已回到城中。日第六十八師團進攻五馬歸槽被暫五十四師擊退。25日，黃昏時分，日軍進占飛機場。
26日，日軍已從西、南兩面將第十軍包圍，并已展開了攻勢。方先覺命令東岸部隊撤回城區(qū)，開始了以城區(qū)為中心的作戰(zhàn)。
日第六十八師團攻占飛機場后，以第五十八旅團主力進入衡陽西南方，日第一一六師團主力亦進入衡陽市西北方。27日晚， 日第六十八師團與第一一六師團協商準備在28日開始總攻。
28日零時，日軍兩個師團發(fā)起攻擊，日六十八師團五十八旅團對城南預十師三十團進行猛攻，守軍第七連官兵奮起反擊，數次打退日軍進攻。
從6月28日到7月2日的五天五夜中，戰(zhàn)斗主要集中在城南預十師陣地上進行。
預十師二十八團方面，戰(zhàn)斗主要在第三營江西會館和五桂嶺陣地展開。經過28、29日兩天抵抗，打退日軍數次進攻，營長李若棟負傷。30日下午，日軍對五桂嶺南端陣地連續(xù)炮擊，陣地守軍全部躲入掩體。日軍惱羞成怒，竟發(fā)射毒氣彈，并持續(xù)半小時之久。在這次毒氣襲擊中，該地七連官兵八十余人全部犧牲。①
預十師三十團方面，是日軍進攻最激烈最兇猛的地方。該團防守湘桂鐵路修械廠附近陣地。修械廠前面有楓樹山和張家山兩個堅固據點，對日軍形成極大威脅。尤其張家山，是城南預十師的突出據點，為整個陣地的鑰匙。日軍如不拿下張家山，便無法接近預十師核心陣地。 日軍動用了所謂“最強悍的黑賴聯隊”。在28、29日兩天中，黑賴聯隊的攻擊均被打退。30日，黑賴發(fā)動更為猛烈的沖刺，終于奪取了張家山前面的兩個高地。此時，防守張家山的第二營傷亡已達70%,營長徐聲先負傷身亡，由團副甘握維繼任營長指揮作戰(zhàn)。團長陳德生派第一營營長蕭維率兩連人馬進行反攻，奪回兩個高地。夜半時分，日軍再次猛撲，又突入高地內與守軍發(fā)生混戰(zhàn)。陳德生即刻親率第一營預備隊和團直屬隊組成的一個連趕來增援。因天黑，無法辨認，雙方援軍都不敢貿然前進。而陳德生所率援軍還是先日援軍到達陣地，搶占了有利地形，將日軍趕下山去。黑賴經此失敗后，于7月1日早晨，將全聯隊的24挺機槍和十數門火炮集中起來，對張家山陣地實施轟擊，然后實施沖擊，結果兩次沖擊均告失敗。7月2日上午，黑賴聯隊利用守軍中毒昏迷之機，占領了張家山前的兩個高地。預十師師長葛先才派師部工兵連和搜索連前來增援，終因傷亡慘重，未能重新奪回高地。葛先才將師部的兩個直屬連留給三十團第一線，同時又將三十團直屬機關兵員編成一個連，用以將該團一、二兩營殘余傷病官兵換下火線休息。
預十師二十九團方面，因與三十團陣地相連，戰(zhàn)斗也相當激烈，其中以一個加強連防守的虎形巢據點，與張家山同為預十師陣地的鎖鏈， 日軍在五天五夜的攻擊中，沖鋒十多次，均被守軍擊退。
第三師防守的城西陣地，不是日軍進攻重點，戰(zhàn)斗沒有預十師方面激烈。
日軍的第一次總攻擊受挫后，不得不暫停全面進攻而待補給。7月3日以后，日軍開始實行重點攻擊，即以小股兵力對守軍陣地要點實行炮擊或沖鋒，以牽制或迷惑守軍，掩護其大兵團進行補給，待機發(fā)動新進攻。
第十軍奉命守衡陽時，只準備半個月糧彈。從6月23日到7月10日，戰(zhàn)斗相持已經半月以上，步槍子彈已消耗60%、手榴彈消耗三分之二、迫擊炮彈消耗80%、山野炮彈消耗90%。
為誘殲中國軍隊主力，橫山勇夫根據其高級參謀島貫的建議：“衡陽機場既已占領，無需急于攻取衡陽，使敵人多少抱有收復失地的希望，誘其反攻，以便圍殲敵中央軍主力于戰(zhàn)場附近，并有利于今后直向桂林挺進?！庇谑?，橫山命令其前線部隊故意作出撤退假象，誘使第十軍出擊。方先覺沒有上日軍的當。本來， 日軍第一次總攻受挫，其糧彈發(fā)生困難之際，應趁機圍攻日軍才是，但國民黨軍最高統(tǒng)帥部卻被假象所迷惑，喪失了衡陽解圍的有利時機。
7月10日，日軍后方輸送的火炮和彈藥到達衡陽前線，日六十八師團新任師團長堤三樹男到任。日航空部隊亦準備妥當。從11日起，日軍對衡陽開始進行第二次總攻擊。日軍進攻的重點由城南正面稍微向西移動，改在城南偏西方面，但仍然是預十師的陣地。
第二十八團方面，戰(zhàn)斗重點在五桂嶺以東以南江西會館和外新街附近第三營陣地。11日，日機炮火猛烈轟擊，江西會館陣地九連一部全被炸死；五桂嶺南端八連陷于危境。12日，日軍百余人沖入外新街，八連官兵奮起巷戰(zhàn)，近黃昏時，只剩下一名班長和兩名士兵。三營營長翟玉崗見狀，命令配屬給他的軍部搜索營一連向外新街日軍反擊。13日拂曉，突入外新街的日軍全被消滅。14日，突擊小組還乘夜偷渡湘江，潛入東岸日軍炮兵陣地，以手榴彈炸毀敵炮兩門。15日，五桂嶺東南陣地九連傷亡近盡。幸虧有第三師第八團第四連趕來增援，才將日軍擊退。五桂嶺附近的一四一高地， 日軍從11至15日反復發(fā)動數次沖鋒，防守該地的第一營傷亡慘重，后經軍部搜索營第二連參與反擊，才保住了陣地。
第三十團方面，仍是日軍攻擊的重點，張家山還是日軍爭奪的主要目標。從11日晚上開始，黑賴聯隊連攻三晝夜。黑賴在炮空掩護下，以步兵百余人為波隊，一波接著一波地向張家山據點沖擊。張家山前兩個高地三次失陷三次奪回。第一次由三十團一、二兩營殘余官兵奪回；第二次由師部防毒連和三十團雜兵編成的混合連奪回，但日軍立即反撲，防毒連全部陣亡，接著由軍部工兵營營長陸伯皋率兩連第三次奪回。13日下午，日軍再攻張家山前兩高地，工兵營兩個連傷亡幾盡，陣地陷入敵手。此時，方先覺令第三師第八團第一營營長率兩連歸葛先才指揮，跑步前往作第四次反擊，但日軍亦大量增援，經過一陣廝殺之后，仍然無力奪回，張家山陣地失守。
第二十九團方面，爭奪的重點在虎形巢。11、12日兩晚，日軍的夾擊，均被擊退。13日晚，日軍在飛機轟炸和人工爆破的掩護下，預先將步兵埋伏在陣地前面，當爆破聲落，立即向陣地沖擊。第二營官兵英勇堵擊，憑著手榴彈的優(yōu)勢打退了日軍三次沖鋒。14日零時，日軍第四次沖鋒，營長李振武等四分之三官兵傷亡，陣地喪失三分之二。團長朱光基令第一營營長勞耀民率其殘部百余人前往增援，將日軍擊退。14日晚，日軍再興攻擊，雙方激戰(zhàn)至午夜，第三師第九團第八、九兩連趕來參加反擊，雙方再度陷入激戰(zhàn)，八、九兩連連長先后陣亡，勞耀民受傷。15日天明時分，虎形巢失守。
日軍連續(xù)五晝夜的進攻，以重大的代價打開了張家山和虎形巢兩扇大門。據守該區(qū)的預十師第一線部隊三個團，雖傷亡近盡，但他們仍用預十師三個團的番號(基本上是由西面陣地抽出來的第三師第八、九兩團的官兵和軍部直屬部隊)。第十軍戰(zhàn)斗兵員日見減少，但日軍的攻勢卻沒有減弱。16日下午4時，日軍攻占市民醫(yī)院，接著又攻占了蕭家山、楓樹山等重要據點。在守軍防廣兵單的情況下，方先覺命令葛先才放棄第一線堅固陣地，改守第二線陣地。17、18兩日，日軍以為第十軍埋伏，不敢貿然進入已放棄的陣地。19、20日，日軍向第十軍第二線陣地發(fā)動攻擊，但沒有進展。于是， 日軍的第二次總攻停止，改為重點進攻。
日軍對衡陽展開第二次總攻時，蔣介石于7月12日下令對衡陽解圍。第六十二、七十九兩軍為此奉命向衡陽進發(fā)。7月14日，兩軍到達衡陽外圍并與日軍發(fā)生戰(zhàn)斗。六十二軍在攻占火車南站時，方先覺奉蔣命令，從軍部特務營中精選官兵150人，組成五個突擊排，由營長曹華亭率領，冒死沖破日軍重圍，向西南郊方面尋找援事。他們到達五里亭時，援軍已經撤走，曹營長只好率部殺回城內。
7月23日，當第六十二軍從火車南站撤走后，日軍加強了反擊，但再也無法接近南站了。第七十九軍進入西郊后，一直與日軍在賈里渡、銅錢渡、雞窩山一帶形成對峙狀態(tài)，不能前進。7月27日，軍委會將第四十六軍、七十四軍一部投入戰(zhàn)斗，協助第六十二、七十九兩軍進攻。到8月2日，戰(zhàn)斗進行了一星期，仍無進展。8月3日， 日軍向衡陽發(fā)動第三次總攻擊。
第十軍自7月16日退守第二線后，一直到7月底，日軍每晚都發(fā)動重點進攻。經過一個多月的戰(zhàn)斗，第十軍傷亡十分慘重：軍部直屬隊已傷亡三分之二；預十師傷亡90%;第三師傷亡70%;第一九○師僅剩四百多人。各部中下級軍官幾乎全部傷亡。由于守城時間較長，官兵傷亡慘重，武器大部被毀，彈藥無法補充，第十軍面臨的困難十分嚴重。
8月4日清晨，日軍六十八、一一六、四十、五十八、十三等師團對衡陽發(fā)動了第三次總圍攻。五個師團各種火炮一百多門，炮彈四萬余發(fā)向衡陽西南陣地傾瀉。由于預十師傷亡殆盡，防守第一線的任務已由第三師頂替。第三師第八團在五桂嶺北部，第九團在天馬山附近，第七團在楊林廟附近，預十師殘余官兵在岳屏山附近等陣地上均與日軍展開了殊死的搏斗。
8月5日，日軍繼續(xù)以強大的炮火掩護步兵沖鋒。守軍陣地全毀，據守在陣地上的官兵不眠不休，不飲不食，與日軍進行最后搏斗。
6日早晨，城北蒸水南岸第一九○師陣地演武坪被日軍攻破，守軍全亡。
8月7日拂曉，暫五十四師一營官兵加入戰(zhàn)斗，在各陣地上繼續(xù)抵抗日軍。當日軍由城北突入時，方先覺與四位師長聯名給蔣介石發(fā)出一電，表示誓以死報效黨國，勉盡軍人天職。此時，守軍仍在五桂嶺北部、岳屏山、天馬山等地與日軍進行拉鋸戰(zhàn)，西南陣地仍然穩(wěn)定。
由于援軍打不進城來，守軍官兵傷亡大半，彈盡糧絕，所以，方先覺不得不考慮結果問題。8月5日下午3時，方先覺召開了有四個師長、軍參謀長、戰(zhàn)區(qū)督戰(zhàn)官等人參加的會議，討論了下一步的行動。
8月7日，日軍由演武坪向十軍軍部逼進時，預十師二十八團團長曾京帶了十幾個人來搶救方先覺，想保方突圍。方說：“你不要管我.你要守住你的陣地，趕快回去?！比胍?，方先覺對他的幕僚和衛(wèi)兵說：“你們已陪我盡到了最大責任，你們各自想辦法尋生路去吧，我就死在這里?！闭f完就要去奪衛(wèi)兵的槍自殺。以后方幾次想自殺都被阻止了。
8月7日下午3點，第三師師長周慶祥命令其第九團在天馬山陣地上豎起了白旗。方先覺對其部下的“求生”行為，沒有進行阻止。相反，他也想通過天馬山的白旗來了解日軍對俘虜的態(tài)度。當時，除天馬山之外，其余的部隊都還在繼續(xù)猛烈抵抗。晚上，他將各師師長叫到軍部開會。方先覺選擇了投降的道路。晚上10點，方在擬好的條件上簽了字，并派周慶祥和副官處長張廣寬帶一個日文翻譯，到第八團五桂嶺陣地用喊話方式向日軍指揮所聯系，但沒有聯絡上。后來改在天馬山方面，與日第一一六師團聯系，終于接上了頭。日軍指揮官答復說：對投降表示歡迎，關于所提“不殺俘虜”、“保留建制”等要求表示接受，并說已通知前線日軍停火；同時，日軍指定方先覺于8日拂曉出城，到五桂嶺面談，全部武器集中到南門外馬路兩旁。
8日上午，方先覺隨部隊前往日方準備的投降談判場所涂仁中學， 日部隊長偕幕僚長以下諸人于午前10時45分在學校防空壕內開始談判。壕內置有一張木桌，部隊長坐在正面，方軍長坐在他的對面，該軍長兩側為第十軍參謀長孫鳴玉以下諸人。 日部隊長以嚴重的口氣凜然地說：本官以日本軍最高指揮官的資格要求貴官：放棄貴軍所提七項投降條件，只能是無條件投降。并要求方先覺及時答復。方聽了翻譯的話以后，低聲答道：“服從這個要求。”日部隊長說：“至于解除武裝的事，回頭聽日軍指示?！?2時，方軍長在投降書上簽了字。最后，日參謀長向方軍長要求道：“請命令衡陽重慶軍即時停止戰(zhàn)斗行為?！狈杰婇L及各師長也都無異議的同意了。
對于投降一事，方先覺后來進行了否定。1976年，方先覺在臺灣曾向日本《產經新聞》記者古屋奎二聲明，說他們當時不是投降，而是和平談判停戰(zhàn)。方在敘述當時的情況時說：“翌晨，有自稱為日軍第十一軍使者的竹內參謀來接洽停戰(zhàn)，當即告訴他，我們絕沒有投降之意，同時提出：(一)保證生存官兵安全，并讓他們休息；(二)收容傷兵，并鄭重埋葬陣亡官兵等條件。竹內說： ‘中國軍勇敢作戰(zhàn)的情形，不僅在此地的日軍，就連日本天皇和大本營都已有所聞?！氐乇硎揪匆猓ξ曳降臈l件完全同意，而日本記錄說我們投降，甚至有說是舉行了投降儀式，是絕對錯誤的，我以軍人的名譽發(fā)誓沒有那回事?！?br>方先覺投降以后，他與幾個師長一起被關在黃茶嶺的一所天主教堂里， 日軍決定利用他來做汪蔣合作工作。 日軍一方面要他發(fā)表書面談話，表示他決心參加“和平”運動，擁護汪偽政權；一方面授意他給蔣介石寫信，勸說蔣早日與汪精衛(wèi)合作。同時，日軍還將第十軍改編為“先和軍”(取方先覺之“先”與偽和平軍之“和”字),以方為軍長，孫鳴玉為參謀長，周慶祥、葛先才、容有略、饒少偉分別擔任第一、二、三、四師的師長。日軍利用“先和軍”成立之機，還為他們舉行了虛偽的成立儀式和宴會。據饒少偉后來回憶：方先覺當時知道日軍為他們舉行儀式的用意是要利用他們來拍照宣傳。方當時說：“來在屋檐下，誰敢不低頭，日本人只照得我們的相，卻照不到我們的心?！睋f，方先覺在1944年10月10日“雙十節(jié)”這一天，在他的“先和軍”軍部天主教堂內還舉行過國慶慶祝會。
“先和軍”成立后，原來看押方先覺等人的內層日軍崗哨撤走了，警戒也比較松，而且日軍還發(fā)還第十軍一批武器。方先覺用它裝備了三個連，由葛先才帶隊開到衡陽東南15里的湘江渡口東陽擔任警備任務。日軍對方先覺所部看守的放松，為方先覺等人的逃跑創(chuàng)造了條件。最先逃出去的是周慶祥和孫鳴玉，其次是饒少傳，接著是方先覺，最后是葛先才和容有略。
方先覺逃到重慶后，受到了蔣介石的親切接見，還由全國慰勞總會出面，組織了一個盛大的歡迎會。方先覺和幾位師長，都得到了青天白日勛章和數量可觀的慰勞金。以后，方先覺被任命為青年軍第二○七師師長(相當于軍長),周慶祥被提升為副軍長兼第三師師長，孫鳴玉被任命為新編第三十六師師長。