魏征小小年纪，已能诗善文，字也写得出色，而且性格刚直，又乐于助人，因而在四乡五里很有点儿名气，被人们誉为“小诸葛”。他的故里至今还流传着他少年时代的佳话。
相传，魏征小时候在学馆念书时，由于异常聪慧，“点子”很多，被小伙伴称为“小诸葛”。有一天，先生外出办事，魏征便和小同窗们玩捉迷藏的游戏，不小心打碎了先生放在书案上的水晶石眼镜。“这可怎么办呢？”小伙伴们不约而同地把目光转向魏征。只见他闪动着明澈的大眼睛，望了望年久失修的屋顶和斑驳的墙壁，不紧不慢地叫几个大个儿的同学搭起人梯，从正对书案的屋檐上抠下一块碎砖头，随手摔在了书案之上，然后又叫大家从地上捡起碎镜片，连同镜架一起放在碎砖之间，布置就绪之后，就让大家回到各自的座位上，大声地读起书来。
先生一回来，听到朗朗的读书声，心里很高兴。等他一进门，魏征便站起来，“汇报”说：“先生，您的眼镜被砸坏了。”先生看看现场，不由得不信。于是，“小诸葛”在同窗们心目中的地位就更高了。事后，有个同窗不慎“泄露”了“机密”。先生知道了实情以后，十分欣赏魏征的应变能力，因此对他更加器重了。
据说魏征14岁那年，曾替叔父押运盐车到洛阳。车夫们正推着十多车白花花的大盐翻越一个山岗，忽然远处响起几声闷雷，一场暴雨即将来临。大家正急匆匆地赶路，偏偏迎面来了一辆装满缸、瓮的大马车，挡住了去路。魏征急忙下马询问情况，原来那一大车缸、瓮是一个商人贩到岭那边去卖的，魏征当即与那人谈妥了价钱，连车带货一齐买了下来。“花那么多钱买这车缸、瓮干什么？”大家正疑惑间，魏征叫他们都过来，连车带货一并掀下了山崖。道路畅通了，十多辆盐车很快推过了山岗，刚住进一家客店，雨就像瓢泼一样下了起来。魏征虽然破费了一些钱，但却保住了十多车盐，车夫们也少受了一场罪，人们从此更加佩服小魏征了，“小诸葛”的美誉不胫而走。
传说有个木匠给赵魏村王财主家干活儿，干了5天，快要完工的时候，东家对他说：“我有一块木头，你要能认出是什么木来，我给你6天的工钱；要是认不出来，这5天的活儿，就算白干了。你敢不敢打这个赌？”木匠心想：“我干了多年木工，还能有什么木头不认识？”于是就随口答应了。可是等东家拿出那块木头来，他却怎么也认不出。东家得意地说：“这叫扫帚疙瘩木，你赌输了！”那5天工钱，就真的不给了。木匠悔恨自己不该答应打这个赌，又恨东家变着法儿捉弄穷苦人，越想越生气。在村头枣树林里，正好遇上了魏征和他的一群小伙伴。当孩子们得知木匠的遭遇之后，都对此愤愤不平，魏征便灵机一动，想出一条妙计来。于是，那木匠又返回了王家，对财主说：“刚才打赌，我是输了，可是只你出了个题，我还没有出题呢。我写上一行字，你若能认出里头的一个，我再给你白干3天活儿，你若一个也不认识，就还我那5天的工钱！这个赌，你可敢打？”王财主心想：“我四书五经都念过，你个木匠还能难得住我？”于是满口答应了。他想让木匠再给他白干几天活儿，还提出要立个字据，谁也别反悔。
于是，两个人来到大街上，乡亲们听说要打赌，都来看热闹，魏征和他的小伙伴们也赶来了。东家立了字据，木匠在地上铺了一张白纸，拿出预先准备好的屎壳郎，在墨斗里一蘸，放在白纸上，屎壳郎一爬，纸上便留下一行歪歪扭扭的墨迹。东家一看就翻了脸，说：“这不是字啊！”木匠嘿嘿一笑说：“这么简单的字，连三岁顽童都认得，随便叫个孩子就能念出来。”他用手一指魏征说：“就让这个小孩念吧！”魏征马上提高嗓门念道：“屎壳郎爬行！”其他小孩也大声念道：“屎壳郎爬行！”在场的人“嗡”地一下子都笑了。东家被众人笑的面红耳赤，不知如何是好，也不敢当众反悔，只好付给了木匠5天的工钱。
这些故事，在魏征故里流传了多年，辗转传颂，未免带有一些传奇色彩。然而，从这些经久不衰的美谈中，却可见少年魏征的才智与性格之端倪。