南京城破以后,国民党高级将领有很多丢下自己的士兵于不顾而争相逃命。当时担任南京保卫战最高指挥官的唐生智,在南京城破前丢下几十万大军仓皇出逃,手下的将校纷纷效仿,于是部队乱成一锅粥。而廖耀湘是少数坚持抗击日军的军官之一,率兵打到最后一刻。
当时廖耀湘脱去军装,装扮成难民,但并未扔掉随身携带的枪械。日寇到处逮捕国民党的“残败兵”,凡是中青年男性手上有老茧,头上有帽檐印的,一律当作士兵当场屠杀。廖耀湘躲进一户人家的稻草里,此户主人是一位中年农夫,姓和。廖耀湘不敢告诉他自己的真实身份,便称自己叫徐贵生,在南京开湖南饭店,农夫叫他牵着牛伪装成车夫跟在自己后面。听说栖霞寺的监院寂然等和尚已在寺庙里开设了佛教难民所,于是廖耀湘和这位农夫一起逃到栖霞寺去。
他12月13日进寺,入寺后立刻去见了当时栖霞寺的监院寂然法师。法师将廖耀湘等人带到一个较为隐秘的寺院阁楼里,令其躲藏起来。由于日本兵会不时的来搜查寺院,怕日本兵万一搜出廖等人的枪械,发现藏在阁楼里的廖耀湘等人是国民党军人,便把廖等人的枪支扔掉了。
在栖霞躲藏了大约一周以后,在一个漆黑的夜晚,廖耀湘与和姓农夫来到了江边。自乌龙山炮台中国官兵撤守后,江面就成了日本海军的天下,江面上稍有动静,便是一阵机枪扫射。但仍旧有些滞留江边的船工肯冒险带客偷渡,廖耀湘等人付钱上了船后,让船夫开船到对岸的黄家圩。
廖耀湘等人上岸后,在当地并未找到国民党的部队。当时又没有电话,讯息传播阻塞,廖耀湘只得捡一些废旧报纸。有一天,廖耀湘偶然听说瓜埠有国民党贴出的召集旧部的告示,便决定前往,到瓜埠后,廖耀湘终于找到了国民党军队的岗哨,欣喜万分。南京失陷3个月后,廖耀湘逃到武汉。他是逃出来了,但大概10万国民党残兵与20万无辜百姓却惨遭屠杀。