在欧洲人用空心芦苇和鹅毛作笔以后，过了很久，才出现了铅笔。
铅笔的发明，应归功于大自然的神力。
那是在1534年的一天，特大的飓风把英格兰坎伯兰附近的一棵大树连根拔起，人们在树根底下发现了一种黑色的矿脉，这就是石墨。这里的天然石墨，不仅颜色很黑，成分也很纯，又光又滑，不用加工就可以用来书写。
当地的牧羊人用这种石墨在羊身上画记号，或者在箩筐上作标记。但是，这种纯石墨条太容易将手弄脏了，而且纯石墨又较柔软，写起来很容易折断，人们便用木条把石墨夹在中间来写字，当时人们以为这种石墨是铅，故而称之为“铅笔”。
到了1781年，德国工匠法伯尔改进了石墨条。他先将石墨弄成粉末，并用硫磺、松香等调成泥状物，然后制成铅笔芯，这样制成的笔芯比纯石墨条的韧性大，而且把笔芯插在木柄里，书写更方便了。
18世纪末，由于法国发生了大革命，法国的进出口贸易受到了阻碍，人们文化生活中的必备品铅笔断了来源，于是法国的化学家们决定自己研制铅笔。有一位叫孔德的化学家，他先在石墨中掺进各种不同的物质，进行烧制。实验中他发现，在石墨里加进不同量的粘土，或在烧制时采用高低不同温度，就能得到性能不同的铅笔芯。他将自己的实验做了详细的记录，最后分别制出了不同硬度的笔。当石墨中掺入的粘土比例越大，铅笔芯就越硬，反之，掺入的粘土比例越小笔芯就越软，写的字就越黑。这样人们就可根据自己的需要来选择不同用途的铅笔了。现在人们在笔杆上用H、B来表示铅笔芯的硬度和软度，当HB同时出现时，表示铅笔的软硬度适中。