Kurşun kalemin izlerine Antik Yunan ve Roma’da rastlandığı bilinmektedir. Adı, Latince’deki “penicillus” sözcüğünden gelmektedir. Bu, küçük kuyruk ya da fırça anlamındadır.
1564 yılına dek, kurşunkalemlerin varlığı kesin olarak bilinmektedir. İlk kurşunkalem İngiltere Borrovvdale’dek meşe ağaçlarından yapıldı. Fakat adı, birtakım tartışmalara neden oldu. Britanyalılar, çok geçmeden kurşunkalemleri, sedir ağacından yapmaya başladılar.

Kurşunkalemin bugün bildiğimiz şeklini Fransız kimyacı Nicolas Conte vermiştir. Kil ve graphite karışımını yakıp tahtadan silindir çubuklar içine koyan Conte; 1795′ te patentini almıştır. İlk kurşunkalem fabrikasını ise 1861′ de Eberharc Faber, New York’ ta kurmuştur. 1960′lı yıl larda ABD ile Sovyetler Birliği uzaya insanlı araç gönderen ilk ülke olma yarışı içindeydiler. NASA’nın uzayda yazabilen kalem geliştirmesine karşılık olarak Ruslar da, çok daha çabuk ve ucuza sorunu çözmüşler. Yörüngeye çıkacak olan Yuri Gagarin’in eline bir kurşun kalem tutuşturmuşlar.