中国社会科学院考古研究所是在北平研究院史学研究所和中央研究院历史语言研究所一部分的基础上发展起来的。1950年5月开始筹建，同年8月1日正式成立。当时属中国科学院领导，是中国科学院建院初期成立的第一批研究所之一。1977年中国社会科学院成立后，考古研究所成为中国社会科学院所属研究机构。

考古研究所成立时，全所人员（包括十余位历史学者）仅有20余人，每年只能派出一、两个人数不多的考古队。1956－1958年人员发展较多，曾经超过300人。1961年精简机构时，许多人员调往其他单位。到“文革”前夕，全所有170余人。目前有各类在职人员143人，离退人员157人。

五十年来，考古研究所在全国绝大多数省份开展过田野考古工作。考古研究所单独进行或与其他单位共同进行的一系列重点发掘项目，受到海内外学术界的广泛关注。例如：史前时期的小南海洞穴遗址、下川遗址、裴李岗遗址、北首岭遗址、半坡遗址、庙底沟遗址、柳湾遗址、屈家岭遗址、青龙泉遗址、兴隆洼遗址、王因遗址、西朱封遗址、三里河遗址、北阳平遗址、顶狮山遗址等；对探索中国文明起源和夏文化问题有重要意义的陶寺遗址、二里头遗址、东下冯遗址等；商周时期的偃师商城、安阳殷墟、丰镐遗址、周原遗址、琉璃河遗址、洛阳东周城遗址和铜绿山遗址、大甸子遗址、前掌大墓地等；汉唐及其以后时期的汉长安城遗址、汉魏洛阳城遗址、曹魏北朝邺城遗址、隋大兴城唐长安城遗址、隋唐洛阳城遗址、隋唐扬州城遗址、渤海上京龙泉府遗址、北庭高昌回鹘佛寺遗址、辽中京遗址、金中都遗址、元大都遗址，以及汉杜陵陵园遗址、满城汉墓、马王堆汉墓、大葆台汉墓、广州南越王墓和南越王宫城遗址、磁县北朝大墓、明定陵和龙泉窑遗址、南宋官窑遗址、灵武窑遗址、福建建窑遗址等。历年来田野工作取得的丰硕收获，为繁荣中国考古学研究作出了积极的贡献。

考古研究所的许多编写工作，被列为国家社会科学研究重点项目。其中，被列为“六五”期间国家项目的有《新中国的考古发现和研究》，《青海柳湾》、《偃师二里头》、《定陵》等发掘报告，以及《小屯南地甲骨》、《殷周金文集成》等；被列为“七五”期间国家重点项目的有《大甸子》、《西汉南越王墓》、《北庭高昌回鹘佛寺遗址》等发掘报告，以及《殷周金文集成》；被列为“八五”期间国家重点项目的有《偃师二里头遗址》等；被列为“九五”期间国家重点项目的发掘报告有《中国考古学》，这是考古研究所“九五”期间投入较多研究人员编写的重要的综合性项目。另外，还有几十项编写工作，被列为国家社会科学基金项目和中国社会科学院重点项目。此外，考古研究所许多研究人员承担了国家重点项目《中国大百科全书》和《当代中国丛书》的考古卷的编写工作，还参加编绘《中华人民共和国国家历史地图集》的原始社会部分的图稿。

考古研究所具有较先进的科技手段，1998年成立的考古科技实验研究中心具有门类众多、技术先进的实验、化验设备。除文物修复、绘图、摄影等方面工作外，还包括碳14测年设备、热释光测年技术、原子光谱分析设备、金相分析仪器、扫描电子显微镜、探地雷达、遥感考古、机算机分析技术等；其中，碳14断代工作的成绩尤为突出，是全国同类实验室中建立时间最长、公布数据最多的一个实验室。1989年，考古研究所实验室主持建立的碳－14测定年代用中国糖碳标准获得国家科学进步三等奖。

考古研究所历年来编辑出版了上百种考古学专刊，其中包括重要遗址和墓葬的发掘报告，综合性考古著作和论文集，甲骨、金文和汉简资料集录等，大部分是所内研究人员编著的。考古研究所主办的出版物有四种：《考古》（月刊）、《考古学报》（季刊）、《考古学集刊》（年刊）和《考古学参考资料》（不定期）。中国考古学会主办的《中国考古学年鉴》，由设在考古研究所的学会秘书处负责编辑。

考古研究所的研究人员中，担任中国社会科学院研究生院考古学系导师的，现有博士生导师11人，硕士生导师51人，1978年以来培养的硕士研究生42人，博士研究生16人。

在半个世纪的发展过程中，考古研究所与世界许多国家的业务同行开展了广泛的学术交流。从1972年在周恩来总理的关怀下举办出国文物展览，到国家实行改革开放政策以来，考古研究所对外学术交流不断扩大。据不完全统计，考古研究所在1972－1999年间共接待外国学者来访800余人次，他们分别来自日本、美国、德国、英国、澳大利亚、法国、加拿大、意大利、荷兰、瑞士、希腊、伊朗、巴基斯坦、墨西哥、秘鲁、俄罗斯、越南、朝鲜、以色列、韩国、印度等40余个国家。考古研究所还曾于1983年8月，与联合国教科文组织和中国考古学会联合举办了“亚洲地区（中国）考古讨论会”，有10个亚洲国家的12名代表和若干观察员前来参加。与此同时，考古研究所派出研究人员数百人次进行讲学、考察。通过这些交往，增强了考古研究所与各国学者之间的友谊，加深了对世界考古学发展的认识，也使得中国考古学的成果为世界所了解。