第二幕，黑暗的地牢。弗罗莱斯坦绝望地唱宣叙调《神啊，这里是这样阴暗》(Gott!Welch'Dunkelhier)，然后是憧憬世间美好又决心从容地*的咏叹调《人世间的美和青春》(IndesLebensFruhlinustagen)，唱完昏倒过去。罗科带着莱奥诺拉下地牢，准备挖墓穴。莱奥诺拉想看看囚犯是否是自己丈夫，但光线太暗，看不清楚。因为莱奥诺拉挖穴时心神不宁，罗科催她快干，说是毕扎罗马上就要下来，此时，弗罗莱斯坦终于苏醒，莱奥诺拉也终于看清了自己丈夫。弗罗莱斯坦向罗科打听到典狱长就是毕扎罗，终于明白了自己为何被捕，他让罗科转告妻子莱奥诺拉，罗科表示自己爱莫能助，但给了弗罗莱斯坦一些酒。莱奥诺拉说自己口袋里有一块3天前的面包，问能否给囚犯。当罗科答应她递给丈夫时，弗罗莱斯坦握住了她的手。墓穴挖好后，罗科让莱奥诺拉先走，莱奥诺拉却藏在了暗处。罗科以警笛叫来了毕扎罗，毕扎罗让罗科解开镣铐，打算杀了弗罗莱斯坦灭口。毕扎罗拔出匕首，要弗罗莱斯坦看清他是谁。这时莱奥诺拉冲到丈夫跟前说：“你必须先杀死他的妻子”，并告诉弗罗莱斯坦，“我就是你的莱奥诺拉。”她拔出藏在胸前的手枪，威胁毕扎罗：“你要再靠近一步就开枪。”这时传来大臣到来的信号，毕扎罗只得带着罗科逃跑。弗罗莱斯坦与莱奥诺拉歌唱胜利，毕扎罗咒骂自己的失败，罗科被眼前的一切惊呆，4人唱四重唱。然后弗罗莱斯坦感激妻子，两人唱欢乐的二重唱《难以言传的欢乐》(OnamennamenloseFreude)。第二场，城堡前广场，所有囚犯聚集在广场，迎接费尔南多，唱合唱《这渴望的日子!》(Heil!HeilseidemTag!)，盼望公正的判决。罗科带着弗罗莱斯坦和莱奥诺拉，诉说经过，请大臣赦免弗罗莱斯坦。费尔南多令逮捕毕扎罗，给莱奥诺拉钥匙，打开了弗罗莱班坦的镣铐，大家齐声歌颂莱奥诺拉的崇高，奏《莱奥诺拉》第三号序曲，以壮丽的大合唱告终。
第一幕，监狱的庭院。狱卒亚奎纳(Jaquine)爱着狱吏罗科的女儿马采琳娜。趁与马采琳娜熨衣服时，他跑来纠缠，要与她订婚，马采琳娜却实存爱上了乔装打扮的费德里奥，唱咏叹调《啊，但愿和你在一起》(Ohwarichschonmitdirvereint)。乔装打扮的费德里奥扛着一大包买回的锁链上场，罗科非常满意他的办事能力，暗示要把女儿嫁给他。马采琳娜听后心中暗喜，亚奎纳非常愤怒，而“费德里奥”并不想利用少女的爱情，4人唱出著名的四重唱《不可思议的心情》(Miristsowunderbar)。亚奎纳去值班室后，罗科对“费德里奥”作祝福，唱咏叹调《如果没有钱》(HatmannichtauchGoldbeineben)，表示爱情固然可贵，可如果没有钱，一切都只是虚幻。莱奥诺拉赶紧把话题引开，她对罗科说，你每天去地牢巡视，非常辛苦，我愿帮你分担劳累。罗科说，因为地牢里两年来关押着一个重要的犯人，非典狱长同意，一般人不可入内。最近只准许每餐给两片面包和水，大约不会支持太久。莱奥诺拉要罗科无论如何取得典狱长许可，让她进地牢。这时随着进行曲旋律，毕扎罗上场，罗科交给他一封匿名信，信上告诉他，大臣听说这所监狱有虐待囚犯的行为，可能要来检查。毕扎罗担心弗罗莱斯坦的冤情会发现，他唱咏叹调《啊，这是什么样的瞬间》(Ha!Welch'cinAugenblick)，歌颂权力、复仇的快乐，士兵们和以合唱。毕扎罗命令号手只要看到街上有骑兵卫护的马车驶来就吹号，以金币收买罗科，要他杀掉地牢里的弗罗莱斯坦。罗科表示他不是刽子手，不敢答应。毕扎罗无奈，要求他在地牢挖一墓穴，由他自己动手。莱奥诺拉偷听到刚才对话，愤怒地唱咏叹调《恶棍!急着往哪里去?》(Abscheulichr!woeilstduhin?)，咒骂毕扎罗。然后又唱优美的咏叹调《希望呵，来访吧》(Komm，Hoffnung)，祈求神保佑最后的一颗星，照亮她成功的目标。此时，亚奎纳又追求马采琳娜，罗科过来解围说，“费德里奥”将成为他的真正女婿。莱奥诺拉忙转移话题，要罗科让所有的囚房放风晒晒太阳。囚犯们到庭院唱合唱曲《哦，何等的快乐》(Oh，WelcheLust)。莱奥诺拉在放风的囚犯中没有见到弗罗莱斯坦，问罗科，她所要求的事是否获准。罗科回答，结婚的事与带她到地牢的事都已获准，并告诉她，今天到地牢的工作极艰巨，因为要挖好墓穴埋葬那个囚犯。莱奥诺拉迫问弗罗莱斯坦是否己死，罗科告诉毕扎罗的安排后，莱奥诺拉热泪盈眶。毕扎罗知道囚犯放风赶来，质问罗科是谁的主意，罗科以今天是国王命名日为由，提醒毕扎罗还有重要的事而蒙混过关。这一幕以表现马采琳娜、亚奎纳、莱奥诺拉、罗科、毕扎罗不同心情的五重唱终场。