Согласно преданию, иероглифы изобрёл Цан Цзе, придворный историограф мифического императора Хуан Ди. До этого китайцы якобы пользовалисьузелковым письмом. Упоминание об этом есть в «Даодэцзине» и комментарии к «И цзину».
Древнейшие китайские записи делались на черепаховых панцирях и лопатках крупного рогатого скота и фиксировали результаты гаданий. Такие тексты получили название цзягувэнь (甲骨文). Первые образцы китайской письменности относятся к последнему периоду правления династии Шан (наиболее древние - к XVII веку до н. э.). Позднее возникла технология бронзового литья, и появляются надписи на бронзовых сосудах. Эти тексты получили название цзиньвэнь (金文). Надписи на бронзовых сосудах предварительно выдавливались на глиняной форме, происходила стандартизация иероглифов, они начинали вписываться в квадрат. Спорной страницей истории китайской письменности является деятельность «историка Чжоу» 史籀 (Shĭ Zhòu), который, согласно повествованиям эп. Хань, служил при дворечжоуского Сюань-вана (англ.)русск. 周宣王, IX—VIII вв. до н. э. Утверждается, что он стал создателем первого из классических стилей каллиграфии, получившего название дачжуань. См. также Шицзоупянь[en].
Археологическое изучение китайской письменности затруднено неравномерной степенью сохранности её материальных носителей. В то время как ранние надписи на костях и бронзе сравнительно хорошо сохранились, современные им надписи на бамбуковых и деревянных пластинках не известны науке. Тем не менее, о существовании таких надписей предположительно свидетельствует использование графа, соответствующего современному цэ 册 уже в эп. Шан. Сам факт того, что письменность Шан представляет собой сравнительно развитую и устойчивую систему, говорит о существовании более ранних этапов развития письменности в Китае, о которых нет достоверных сведений.