当李克强离开北京再次回到地方工作时，他已经从“村官”、团干部成长为全国最年轻的“博士省长”。
1998年6月开始，李克强到河南工作，先后担任省长、省委书记，在这个当时经济处于全国“锅底”的大省一干就是7年。因工作忙碌、秉性清廉，他很少应酬，把全部的精力都用在解决问题、推进发展上。河南历史上有过“浮夸风”，带来过惨痛教训。李克强到河南工作后，多次强调河南省情有其特殊性，人口多、底子薄，要多干事、不张扬，低调少说，避免浮躁，踏踏实实干几年，河南就会变样。
与很多人把河南视作单纯的农业大省不同，李克强鲜明地提出“加快工业化、城镇化，推进农业现代化”的“三化”路径。2003年，他正式提出“中原崛起”的构想并加以实施，这为河南后来的发展定了基调，也成为国家后来制定出台中部崛起战略的理论和实践基础。
按照这一思路，李克强强调，河南要在继续巩固“三农”优势、建好全国“粮仓”的基础上，加大力度推进工业结构战略性调整，对传统产业进行高起点、大跨度改造，拉长产品链条，并带动相关产业发展。他系统谋划河南工业发展布局，提出了建设郑汴洛工业走廊的战略举措，大力推进洛阳先进制造业基地建设、加快老工业基地改造等，推动了一批支柱产业的形成，发展壮大了一批大型企业集团和知名品牌。
河南不沿海、不沿江、不沿边，李克强提出，要打破内陆省份的观念制约，实施“东引西进”，一方面充分发挥区位、市场、劳动力资源优势，吸引东部产业、技术、资金、人才、项目、管理经验和机制，促进结构调整和产业升级；另一方面，要抓住中央实施西部大开发战略的机遇，加强与西部省区的经济技术合作，大力开拓西部市场，努力提高产品在西部市场的占有份额。这个战略思想为打开河南工业发展空间，推动河南从传统农业大省向新兴工业大省转变，打下了坚实的基础。
工业化与城镇化相伴相生，城镇化的推进可以为二、三产业提供广阔的发展空间。李克强提出，推动工业化，必须同步加快城镇化进程，并把其作为河南发展的一个重要战略，提出要举全省之力，发展“构筑中原城市群经济隆起带”，着力构筑河南乃至中部地区具有强劲积聚效应和辐射带动作用的核心增长极。为开启城镇化探寻新路，李克强大力推动郑东新区建设，一改普遍存在的“摊大饼”式的城市扩张和单一产业为主的开发建设模式，提出要坚持“高起点规划、高水准建设”，坚持集约节约、市场化运作、组团式发展的城市发展思想，推动了旧城与新城的互动发展，实现了产城融合、要素集合，呈现了金融业、高端商贸业、物流业、旅游业多元发展。郑东新区的建设，为全国走新型城市化道路提供了示范。
7年间，河南经济以高出全国平均水准1.63个百分点的速度发展，人均国内生产总值由全国第20位上升至第17位，总量跃居全国第5位，居中西部省份之首。
河南一度成为中国艾滋病重灾区，艾滋病毒经过十多年潜伏在一些地方集中爆发。李克强多次深入病情严重的乡村和患者家中，主动与他们握手，促膝攀谈。他还请民间著名防艾人士、70多岁的退休医生高耀洁到自己的办公室询问情况，听取建议。
2002年，李克强担任河南省委书记后，立即把解决艾滋病问题列为工作的重中之重，组织力量开展了全国首次省级艾滋病情普查，组织省直部门对口帮扶38个重点村，他强调既要摸清实情又要维护病人隐私权、体现人文关怀，并确立了患者“四有一不”的权益机制(即保证艾滋病患者有房住、有衣穿、有饭吃、有基本医疗保障，不让一个艾滋家庭的学童失学)，实施对因卖血感染艾滋病患者进行免费治疗、免费检测、免费母婴阻断、艾滋孤儿免费上学等救助措施，成为国家现今对艾滋病患者“四免一关怀”政策的前奏。到2004年，河南艾滋病蔓延的势头得到根本遏制。时任联合国儿童基金会驻华代表处代表魏英瑛对此给予高度赞誉，称河南“在中国乃至世界上发挥了示范带头作用，河南的防艾经验值得在国际范围内推广”。
李克强到中央工作后，担任国务院防治艾滋病工作委员会主任，在更高层次上推动这项工作，尤其注意发挥社会力量。他曾深入艾滋病民间组织办公地点，与志愿者、感染者亲切交谈，鼓励和支持他们发挥独特作用，这使更多的人参与进来，也使更多的患者受益。就在李克强再次当选为中共中央政治局常委后，联合国艾滋病规划署执行主任西迪贝发来贺信。贺信中，西迪贝表示：“中国的艾滋病防治工作已经取得巨大进展。我愿再次感谢您在艾滋病防治领域展现的卓越领导力。”
2004年底，李克强调任辽宁省委书记。当时的老工业基地正面临最困难时期，辽宁省是工业大省，国企包袱过重，在改革进程中大量国企破产、工人下岗，棚户区群众生活尤为艰辛。李克强走进棚户区，目睹了近千居民共用一个旱厕的场景。他摸着冰冷的土炕，动情地说：“就是砸锅卖铁，也要让群众搬出棚户区。”其后，他全力推动“棚改”民心工程，2005年3月，辽宁公布了改造集中连片棚户区的实施方案。3年时间，120万居民过上了新生活，大片的棚户区消失。李克强在“棚改”过程中一再强调的“万事民为先”这句话，成为他日后主政的核心理念。
长期以来，由于受封闭式经济布局和国际环境的影响，辽宁产业布局重点均在腹地，沿海的经济总量只占全省的少部分。李克强在深化对省情认识的基础上，提出抓住东北振兴和沿海扩大开放双重机遇，做出了辽宁转身向海、开发建设“五点一线沿海经济带”的战略决策，这一决策被视为“大刀阔斧改造辽宁老工业基地”，使辽宁老工业基地走向全面振兴。他离开辽宁时，辽宁已经被称为翻过身来。2009年，辽宁沿海经济带建设上升为国家战略，辽宁已成为东北振兴的主战场和新的经济增长极。
