1928年5月，日本军队大举向山东济南进攻，屠杀中国外交官员，打死打伤中国军民数千人，制造了震惊中外的“济南惨案”。因惨案发端于5月3日，故又称“五·三惨案”。这是日本帝国主义对中国人民欠下的一笔血债。
当时，中国正处在军阀混战时期，蒋介石在英、美帝国主义的支持下，出兵攻打奉系军阀张作霖，以图统一北方。支持张作霖的日本帝国主义害怕英、美势力向北方发展，侵犯它的利益，就借口保护侨民，把军队开进了济南，阻挠蒋介石的军队北上。
5月1日，蒋介石的军队一开进济南，日本军队就寻衅开枪，打死中国军民多人。3日，日军又以种种借口在济南奸淫掳掠，无所不为。中国军民在马路上行走时，在商店里买东西时，甚至在澡堂里洗澡、在理发店里理发时，只要被日本兵碰上，立即遭到杀害。日军还唆使日侨义勇团，杀害平日有反日言论或者取缔过日货的中国学生、工人、店员。一时间，济南成了日寇屠杀中国军民的杀人场。
尤其惨无人道的是，日本军队公然破坏外交惯例，冲进国民党战地政务委员会外交公署，无理地将战地政务委员会外交处主任兼山东特派交涉员蔡公时和其他17位手无寸铁的外交人员进行捆绑毒打。蔡公时虽然当即向日军说明了身份，但日军却毫不理睬，用刺刀逼迫他们跪下。蔡公时用日语抗议，日军大怒，将他的耳朵和鼻子割去。蔡公时坚持民族气节，怒斥日军暴行，日军又将他的舌头、眼睛挖去；并对其他人也百般蹂躏。最后，除一人侥幸逃脱外，其余的人全部被日军杀害。其状之惨，令人目不忍睹。
这次“济南惨案”，日寇杀死中国军民6000多人，伤1700多人，激起了全国人民的强烈反对。“打倒日本帝国主义”及抵制日货的怒潮随即席卷全国。蒋军官兵对日军暴行忍无可忍，被迫进行自卫还击。但是，当时在济南城里的蒋介石置同胞死活于不顾，竟下令各师“约束士兵不准还击”。
第二年，中日两国政府签订“济南惨案”协定，规定南京政府负责保障日侨生命安全，日军于两个月后全部撤退。由于国民党政府的对日屈服，“五·三”惨案就如此草草了结。
