1940年3月，汪伪政府宣布成立。侵华日军在上海大肆搜捕抗日志士，汪伪组建由前国军軍官毕忠良（張魯一飾）担任处长的“特别行动处”为虎作伥。一直潜伏在毕忠良身边、代号“麻雀”的中共党员陈深（李易峰飾），与组织暂时失去联系。

置身虎视狼顾的险境中，陈深偽裝成一個在上海灘賭博，在女人堆中打滾的不羈浪子形象，但實則信仰坚定，冒死营救上线“宰相”（李小冉飾）及抗日志士。毕忠良老奸巨猾，虽与救命恩人陈深“情同兄弟”，却对其产生怀疑，设重重陷阱步步紧逼。陳深因“宰相”是其哥哥的夫人，親嫂子，因此不顧一切想救出宰相，然而事與願違，宰相告訴陳深，不可以救她，否則潛伏在特別行動處的任務就徹底失敗。宰相牺牲后，陈深终于找到新上线“医生”并受命拿到日军代号为“归零”的重要作战计划。

陈深的昔日恋人徐碧城（周冬雨飾），兩者在黃埔軍校為師徒關係，徐与另一國民黨情报人员唐山海（張若昀飾）假扮夫妻潜伏进特别行动处，此時他們也接獲軍統的指令，要拿到歸零計畫，此計畫是日軍用來潛伏在軍統與中共的臥底，以便於戰爭失利後，能繼續為日軍效勞，徐碧城因個性不適合當一名特務，總是情緒用事，在多次行动中给陈深制造麻烦和危机。智计过人的陈深身处连环杀机之中，巧妙利用日本鬼子、汪伪分子等各派势力之间的微妙缝隙，而屢屢取得勝利，讓畢忠良與長官不懷疑自己是臥底。然而在軍統叛變的蘇三省（尹正飾），給予特別行動處，軍統刺殺小組颶風隊的情報，而使得軍統在上海勢力幾乎全軍覆沒。蘇三省喜愛李小男（闞清子飾），李小男卻鍾情於陳深，蘇三省積極想殺掉陳深、唐山海、徐碧城，認為他們就是中共臥底「麻雀」和軍統臥底「熟地黃」，但同时也付出了巨大的代价。陳深最终成功地获取“归零”计划，“归零”计划就藏在畢忠良的家裡，陳深用計謀終於拿到了“归零”计划，挫败了日本侵略者的阴谋。最後結局耐人尋味，徐碧城為了救陳深，而沒有到延安，而陳深因詐死，而沒有在上海與徐碧城會面，當徐碧城去找中共上線時，被中共交代另一項任務，即是用現有的身份繼續臥底在軍統，直到勝利的一天。