《后汉书· 本传》称孔融“幼有异才”。又据《融家传》记载，孔融兄弟七人，他排行第六。在他四岁时，每次兄弟们一起食梨，哥哥们都拿大的，他却总是拣小的。家中大人问他缘故，他回答说：“我小儿，法当取小者。”为此，他受到孔氏宗族的夸赞。十岁那一年，孔融随父亲来到首都洛阳，当时河南尹李膺名声极大，“士有被其容接者，名为登龙门”（《后汉书·李膺传》）。但是他“不妄接宾客”，不是当世名人和通家都不获接见。而孔融还是个孩子，却偏要见见李膺，他对李府守门者说：“我是李君通家子弟，请通报。”李膺请他进来后问他道：“高明（称对方的敬词）祖、父与仆有恩旧乎？”孔融答道：“然。先君孔子与君先人李老君同德比义而相师友，则融与君累世通家。”在座的人听了无不惊叹他小小年纪如此聪慧，是个“异童”（《世说新语·言语》注引《融别传》）。李膺也称赞他将来“必为伟器。”

　　三年后，父亲亡故，孔融居家守丧。他此时好学勤读，博涉该览，渐为州里所重。东汉桓灵之际，党锢之祸迭起，宦官把持朝政，蔽塞言路，打击异己，在朝野大肆搜捕诛杀正直之士。当时山阳张俭为中常侍（宦官首领）侯览所怨，被迫四处亡命。张俭因与孔融之兄孔褒有旧，逃避到孔家，恰巧孔褒外出，只有十六岁的孔融在家。张俭见他年少，起初不信任他，孔融说：“兄长虽然在外，难道我就不能为你做些什么吗？”于是把张俭藏在了家中。不料事情泄露，孔融与其兄孔褒一同被捕入狱，兄弟二人争死，郡县疑不能决，只好呈请上司处理，结果上面下诏问了孔褒之罪，孔融反倒因而声名显扬了。当时平原的陶丘洪、陈留的边让都是一时俊秀，孔融与二人齐名，成了当时的大名士。