1927年11月中央特科在上海成立，其前身是设立于武汉的中央军委特务工作处，中央军委特务工作处成立于1927年5月，由时任中央军委书记的周恩来一手组建，顾顺章担任负责人，下设情报、保卫、特务和匪运四股，主要负责收集情报、保卫中央机关安全、惩办叛徒奸细等职责。

不过在中央被迫从武汉迁往上海后，中央军委特务工作处也因此取消，在抵达上海后不久，由于政治保卫工作的需要，周总理在原中央军委特务工作处的基础上成立了新的政治保卫机构，即中央特科，全称“中央特别行动科”。

中央军委特务工作处设有4股，中央特科则设有4科，一科为总务科，负责庶务工作，科长洪扬生；二科为情报科，负责情报工作，科长陈赓；三科为行动科，负责营救、锄奸工作，科长顾顺章兼；四科为交通科，负责通讯联络工作，科长李强。中央特科接受周总理的直接领导，但具体负责人仍由原中央军委特务工作处负责人顾顺章担任。

1604位开国将军中有2人曾在中央特科工作，一位是陈赓大将，一位是李克农上将，二人均在中央特科的二科，也即是情报科，陈赓为情报科科长，李克农为情报科主要成员之一。

陈赓是周总理亲自选入中央特科的，并让他担任了情报科的科长，对于陈赓，周总理是非常了解和信任的，陈赓毕业于黄埔一期，是黄埔学员中的“风云人物”，而周总理曾担任黄埔军校政治部主任，是黄埔教官中的“风云人物”，陈赓算得上是周总理的得意学生。

1927年7月，时任起义军营长的陈赓又在周总理的领导下参加了南昌起义，在南昌起义军南下失利后，周总理辗转来到上海，被安排在中央工作，而陈赓则是在南下途中左腿负伤，由于当时医疗条件有限，只得辗转前往上海治疗。

二人再次在上海相遇，周总理便邀请康复不久的陈赓加入了中央特科，实际上除了对陈赓的了解和信任外，还有一个重要的原因，1926年陈赓曾被上级派往苏联学习特工方面的知识，先是在伯力学习侦探、审讯方面的知识，后又在海参崴学习爆破、射击、秘密通讯等技术，而当时与陈赓一起被派往苏联学习的还有顾顺章。

因为陈赓在黄埔的名气很大，国民党方面有不少人都认识他，为了方便工作的开展，陈赓在中央特科工作期间化名“王庸”，从1928年至1931年，陈赓在中央特科工作了近3年，由于顾顺章的叛变而不得不离开中央特科，并被派往急缺军事干部的鄂豫皖根据地工作，后曾担任红四方面军首任参谋长，在这之后陈赓就没再从事过情报方面的工作。

李克农比陈赓稍晚进入中央特科工作，李克农于1928年3月来到上海，最初在中共沪中区委担任宣传部长，1929年调入中央特科情报科工作，接受陈赓的直接领导，在调入中央特科不久，李克农便接到了打入敌特内部搞情报的任务。

此时钱壮飞已成功打入国民党中央组织部党务调查科，并深得党务调查科主任徐恩曾的信任，是徐的私人机要秘书，在钱壮飞的引荐下，李克农顺利打入敌特务机关——上海无线电管理局，并担任了电务股股长。

除了李克农、钱壮飞外，胡底也在敌特核心机关工作，中央于是决定让三人在敌特内部成立党小组，并由李克农担任小组长，因为三人在敌人的心脏工作，被周总理亲切地称为“龙潭三杰”。

李克农当时既要负责指导钱壮飞、胡底二人的工作，又要向陈赓汇报相关的情报工作。党务调查科是国民党的核心情报机构，能接触到不少核心情报，而钱壮飞作为徐恩曾的私人机要秘书能非常轻松地获得这些情报。

钱壮飞将搜集到的情报交给李克农，再由李克农汇报给陈赓，比如第一、二次“围剿”时的重要军事情报都是由他们搜集到的，经过上海中央及时转发给中央苏区，为红军取得反“围剿”的胜利起到了重要作用。而顾顺章叛变的情报也是由钱壮飞搜集到的，他和李克农及时将情报送到了中央，使得中央赶在敌人的大搜捕前进行了转移，否则后果不堪设想。

当然了，顾顺章的叛变对我方情报工作的打击是严重的，作为中央特科的核心人员，其掌握了不少我方核心情报，李克农等在敌特核心好不容易搭建起来的情报网毁于一旦，而那些好不容易打入敌人内部的同志也不得不撤离出来，离开上海。

在这样的环境下，李克农离开了上海，来到了中央苏区，不过和陈赓不同的是，李克农继续留在情报线上工作，先后担任了国家政治保卫局执行部长、红一方面军政治保卫局长、中央军委情报部部长等职，被誉为“红色特工之王”。