河南博物院创建于1927年，是我国较早的博物馆之一。在当时任国民革命军第二集团军总司令、河南省政府主席冯玉祥的直接关怀下，成立河南博物馆，指定开封法院西街前法政学校校舍为馆址（即今开封市三圣庙街）。1928年5月，更名为“民族博物院”，并直属于省政府。1930年12月又恢复为“河南博物馆”，直属省教育厅，积极收藏了新郑、安阳殷墟等一大批富有中原特点的历史文物，涌现出了以关百益为代表的一批研究人员，并选送部分文物精品到英国伦敦参加《中国艺术国际展览会》。1937年“七七事变”爆发，为避免文物被毁，国民政府将馆藏主要文物装载68箱转运至重庆，博物馆工作处于停顿状态。1940年日伪期间，河南博物馆更名为河南省立博物馆，留馆文物遭巨大损失。解放后博物馆再现生机。由于省会迁郑，1961年由开封迁至郑州市人民路11号。90年代，在中央政治局常委李瑞环同志的关怀下，国家计委、河南省委、省政府决定“八五”期间在省会郑州建设一座具有当今先进水平的现代化历史性综合博物馆，集原河南省博物馆、中原石刻艺术馆为一体，取名河南博物院。1998年5月1日河南博物院落成开放，迎来了她崭新的辉煌发展时期。

新建河南博物院坐落在郑州市农业路中段，占地10万平方米，建筑面积7.8万平方米，展厅面积1万余平方米，是继陕西历史博物馆、上海博物馆之后我国新建的又一座国家级现代化博物馆。院区中央为主展馆、东西两侧配厅及文物仓库楼，四隅分布着电教楼、临展楼、办公楼和培训楼等，整体布局结构严谨，取九鼎定中原之寓意，建筑形式新颖别致，气势雄浑，充分体现了源远流长的中原文化特色。整个院区绿草成茵，环境幽雅，馆中有园，园中有馆，展厅内部陈列精致，文物荟萃。在编职工198名，设有陈列部、保管部、社教部、研究部、图书资料部、办公室、保卫处、设备处、财务处、后勤处、文物保护中心和社会服务部等机构。

1998年5月1日开馆以来，该院接待国内外观众达300多万人次（包括日常观众、外展观众和网络观众）。江泽民、胡锦涛、温家宝等党和国家领导人，先后来该院视察工作，给予了充分肯定。现在河南博物院被省政府授为“省级文明单位”，被人事部、文化部授为“全国文化工作先进集体”，被科技部、中宣部、教育部授为“全国青少年科技教育基地”，被共青团中央、全国青联授为“中国青年科技创新行动教育基地”，被中国科协授为“全国科普教育基地”，另外，该院还被定为“郑州大学文化素质教育基地”、“解放军信息工程大学爱国主义教育基地”、“解放军94371部队爱国主义教育基地”等。在社会主义精神文明建设中，该院正发挥着越来越重要的作用。