中国古代小说具有悠久的历史发展进程，有着孕育、产生和发展的漫长轨迹。中国“小说”的概念也有一个演变的过程。在中国古代文学史上，小说观念涉及面广泛，包括神话、寓言、逸事、志怪、传奇、话本、章回等各种类别。
“小说”一开始到底是什么意思？什么时候有“小说”这样的一个概念、这样的一个词？下面我们来探讨一下。
“小说”一词最早出现于战国时期的《庄子·外物》：“饰小说以干县令（干，求取；县即悬；令，令誉，名望），其于大达亦远矣。”这句话的意思是：“粉饰琐屑浅陋的言辞去求取高大的名声，离开远大明达的境地就很远了。”所以，此处庄子所说的“小说”，指的是“琐屑浅陋的言辞”，是与宏词伟言相对立的，是远离“大达”，即“远大明达的境地”，也就是说是远离“大道”的。所以，这个时候的“小说”概念和我们今天作为文学体裁的小说概念有着很大的差别。
到了汉代，小说的地位有了一定程度的提高。汉人桓谭在《新论》中说：“小说家合丛残小语，近取譬论，以作短书，治身理家，有可观之处。”说它是“合丛残小语”之作，也就是它并非阐述大道，是属于“小言”、“小语”的范畴。其写作特点为“近取譬论”，就是用某个故事、某种譬喻来阐述一定的道理，也就是用形象来说理；其次，它的形制特点为“短书”，即“寓言异记”（鲁迅《中国小说史略》第一篇）一类的著述，而不是受人推崇的、高高在上的儒家典籍；最后，小说的功能，虽对治国平天下之大道无补，但有益于修身齐家。
班固在《汉书·艺文志》中将“小说家”列于诸子十家之末（儒、道、阴阳、法、名、墨、纵横、杂、农、小说，总计十家），“小说家”在诸子各家中占了一席之地，提升了小说的地位。《汉书·艺文志》：“小说家者流，盖出于稗官。街谈巷语，道听途说者之所造也。”认为小说是“稗官”从“街谈巷语”和“道听途说”中收集整理而来的（稗官，是古代从事民间流传言论采集和拣选工作的史官），是有别于“正史”的逸闻琐事。也就是说，小说源自民间口耳相传的口头创作，是由稗官记录整理成书面文学作品的。班固又在《汉书·艺文志》诸子略序中说“诸子十家，其可观者九家而已”，将“小说家”正式排除于诸子中“可观者”之列。此即所谓的“十家九流”之说。班固虽将小说家列入诸子之列，但终究认为“小说家”是不入流的，是属于“不可观者”。可见，汉人认为小说是属于史家杂采，从是否有益教化的角度来确认小说的功能与价值，认为小说这种文学体裁是登不得大雅之堂的东西。
魏晋南北朝人的小说观念，大致与汉代相同。
综述先秦汉魏六朝人的小说观念，总的来说是指没有太大教化功能的来自民间的口头传说，为史家的附属。现代界定小说的基本要素有三：完整的故事情节，有性格、形象鲜明的人物角色和合理的结构。这样的三个要素与上述的小说观念是有一定差距的。如果要完全符合这些要素，则中国至少要到唐代传奇才算发展出真正的小说。可见，先秦汉魏南北朝时期的小说观念并不能涵盖小说全部的来源和内容，更不能涵盖小说全部的功能和价值。这个时期的小说也没有获得独立的文学地位。
我国古代小说虽然到魏晋南北朝时期才粗具规模，却有一个长期的历史发展过程，最早可以溯源到古代的神话传说。同时，我国小说的源头也是多渠道的，如先秦散文中的寓言、史传等等都可认为是中国小说的源头。先秦两汉时期的神话、寓言、史传等都孕育着小说的艺术因素，为小说的形成准备了条件，都可追溯为中国小说的源头，主要可概括为以下三个方面：
1.神话传说
中国的上古神话大多散失，目前散见于《山海经》及《穆天子传》、《楚辞》、《淮南子》等较晚出的著作中。其中虽然经过加工修饰，“不免有所粉饰，失其本来”（鲁迅《中国小说史略》），不过还是保留了早期的神话传说。这些神话传说也影响了后世的小说发展，魏晋南北朝的志怪、唐宋传奇、宋元话本，直到明代的《西游记》、《封神演义》和清代的《聊斋志异》等，都能很清楚地看到它们与神话的传承关系。
2.先秦散文中的寓言
寓言一词，最早见于《庄子·寓言》。其形式为叙述一个小故事，而于具体的情节中隐含一种更深刻的思想，常语带双关，借以阐发哲理。在春秋战国时期，这一叙述方式常被先秦诸子及史传所使用。《孟子》、《庄子》、《韩非子》、《战国策》等书中都有不少人物性格鲜明的寓言故事，它们已经带有小说的意味。如《孟子》有“揠苖助长”、“齐人乞墦”、“五十步笑百步”等；《庄子》有“庖丁解牛”、“朝三暮四”等；《韩非子》有“郑人买履”、“守株待兔”、“自相矛盾”等；《吕氏春秋》有“刻舟求剑”等；《战国策》有“百发百中”、“画蛇添足”、“惊弓之鸟”、“狐假虎威”等。寓言这样的讽喻文体，深深地影响了后世小说的讽刺手法，同时它的叙事、写人、拟人、状物、夸张等艺术经验，亦为小说家所吸收。显然，寓言故事可以看做小说的源头之一。
3.史传文学
这也是很重要的一个源头。中国是个史学大国，历史意识特别强烈。我们在看《左传》和《史记》时，都可以看到某些类似于小说那样的有趣片断，其原因是这些史书的作者往往能够虚拟或代拟出某些生动的历史场景。《左传》、《战国策》、《史记》、《三国志》中描写的人物性格、叙述的故事情节，或为小说提供了素材，或为小说积累了叙事的经验。唐代传奇小说多取人物传记的形式，《三国志演义》（《三国演义》）径直标明是史传的演义，都证明了史传是小说的一个源头。史传文学中的结构框架、叙事方法，都吸引了后代许多小说家自觉地以纪传的笔法来写小说。小说与历史的这种深刻的联系，也影响了许多评论家和小说家对小说的评价。
中国小说在先秦两汉时期孕育、萌芽并确立了基本的内涵，历经三千多个春秋的洗礼，中国小说逐步走向成熟和辉煌，如魏晋南北朝的志人志怪小说、隋唐的传奇小说、宋元的话本小说、明清的章回小说、现当代的白话小说等，无数的经典之作流芳于世，在我国的文学大花园中争奇斗艳，彰显出中国小说的巨大魅力。