《旧唐书》载，隋文帝时，秦琼在隋朝大将来护儿(演义中四猛之一)手下。秦琼丧母，来护儿遣使吊唁。士卒问来护儿为什么其他人的丧事不吊唁，独吊唁秦琼?来护儿说：“此人勇悍，加有志节，必当自取富贵，岂得以卑贱处之?”后来正如来护儿所言。
隋末农民大起义，秦琼跟随隋将张须陀。张须陀一万人被十万敌军包围，秦琼主动请战，与罗士信(演义中第一猛将，傻小子，秦琼干弟弟)率千人袭击敌军大营，敌酋仅以数百骑逃窜。秦琼一战成名，“由是勇气闻于远近。”
后来他与程咬金的经历差不多，先投靠李密，后投靠王世充，最后投奔大唐。李世民对其厚加礼遇，拜为马军总管，“功最居多”。
秦琼的武功似乎比演义中要高，他随李世民出征，敌军中有骁将耀武扬威，秦琼跃马提枪(秦琼马上使枪，演义如是)，“必刺之万众之中”。
秦琼也参与了玄武门之变，拜左武卫大将军，天下平定后多病(与演义一样)，贞观十二年(公元638年)病逝，赠徐州都督，陪葬昭陵。是凌烟阁二十四功臣之一。
秦琼的功劳太大了，可以说是大唐第一开国元勋，李渊的话最能够说明问题：“卿不顾妻子，远来投我，又立功效。朕肉可为卿用者，当割以赐卿，况子女玉帛乎?卿当勉之。”皇帝把话都说到这份上了，真可谓是得秦琼者得天下。因此小说家对他浓墨重彩，把所有优点都加在他身上，也就不足为怪。
