在先秦两汉时代，许多书是没有书名的，《史记》也是这样。司马迁在完成这部巨着后，曾给当时的大学者东方朔看过。东方朔看后非常钦佩司马迁所取得的成就，就在书上加了“太史公”三字。“太史”是司马迁的官职，“公”是美称，这也仅仅表明是谁的着作而已。我国最早的图书目录（东汉班固写的《汉书·艺文志》）在着录这部书时，也只写《太史公百三十篇》，这就是此书在两汉时期正式流行的名称。一些学者在引用这部着作时常嫌《太史公百三十篇》这个书名过于繁琐，经常省成“太史公记”、“太史公书”、“太史公传”这样的字样。“史记”二字是从“太史公记”这四个字里缩略出来的，汉末以后才称为《史记》。