《潜伏》以抗日战争胜利后至解放战争前夕的时代为背景，讲述了国民党军统情报人员余则成，在信仰觉醒后转为中共地下党员，潜伏于军统天津站的故事。
故事开篇，余则成被派往天津站工作。此时的他虽对国民党内部的腐败有所不满，但仍坚守着军统的职责。
转折点发生在他的未婚妻左蓝身上——左蓝实为中共地下党员，是她让余则成彻底看清了国民党的腐朽与反动，也让他坚定了投身革命的信念。
此后，余则成在中共地下党组织的引导下，正式成为潜伏者，代号“峨眉峰”，开始在天津站展开秘密工作。
为更好地隐藏身份，组织为余则成安排了一位“假妻子”——翠平，不过翠平来的比较意外，是原本的假妻子去世了，临时顶上来的。
翠平原是太行山的游击队长，性格直率泼辣，与沉稳内敛的余则成初遇时矛盾不断：她不熟悉城市生活的规则，多次因言行鲁莽险些暴露身份，余则成则需时刻为她收拾“烂摊子”，两人在磕磕绊绊中逐渐磨合。
随着共同经历一次次危机，比如联手获取国民党“黄雀计划”情报、挫败站内对手的阴谋等，他们从最初的互相嫌弃，逐渐产生了深厚的感情，最终从“假夫妻”变成了真正的革命伴侣。
天津站内的权力斗争是故事的重要冲突线。
站长吴敬中老谋深算，以“捞钱”为首要目标，却对下属的动向时刻警惕；拙劣的马奎；副站长陆桥山野心勃勃，一心想往上爬，多次设计陷害同事；行动队队长李涯则是余则成最危险的对手——他忠诚于国民党，嗅觉敏锐，始终怀疑余则成的身份，多次展开调查，甚至设下陷阱试图揭穿余则成。
余则成在这样复杂的人际关系中，凭借智慧与冷静，一次次化险为夷：他利用陆桥山与李涯的矛盾坐收渔利，用“装傻”“送礼”等方式蒙蔽吴敬中，在刀尖上为组织传递了大量关键情报，包括国民党的兵力部署、特务名单等。
解放战争节节胜利，天津站即将撤离，余则成接到任务，需继续潜伏到台湾，配合后续工作。
此时他与翠平已生死相依，但为了革命事业，两人不得不分离——翠平因身份暴露，被迫提前撤离，余则成则在车站看着她乘坐的汽车远去，连最后一面都未能相见。
更令人唏嘘的是，翠平当时已怀有身孕，却未能将消息告知余则成。抵达台湾后，余则成接受了新的任务，与另一位地下党员组成新的“家庭”，继续隐藏身份。
…。。