在这之后的三四年中，李士群8次遭到国民党特务的拘禁关押。国民党特务的浸水皮鞭、蹩脚电椅、胡椒水、老虎凳等酷刑，他都领受过了。每当他老婆叶吉卿抚摸着他满身的伤疤，留下一串串眼泪时，李士群总是这样安慰她：敌人用刑的目的，无非是让我张口说出组织的秘密，如果我不说，他们也拿我没办法；这样，他们才有可能放掉我，把我当作鱼饵，去抓大鱼。其实，在他这套保命哲学之下的更深一层含义却是，他常想到共产党铲除叛徒的毫不留情。
1932年春，一个下着绵绵细雨的夜里，李士群的家里突然闯进一群持枪的人，不由分说把他们夫妻二人捆绑个结结实实，塞进了汽车。这伙人是国民党中央组织部调查科上海区的特务。
李士群和叶吉卿被分别关进男女拘留所。上海区行动组长马绍武命人将李士群吊在房顶上，用皮鞭狠抽。当马绍武看到李士群身上布满的疤痕，他有点近乎绝望了：眼前这家伙是几进几出的老油条了，没有什么刑是他没见识过的。但他转念又一想：难得抓来一个老牌共产党，这疤说明他的资历！只要从这里打开缺口，不愁不立大功。
