Родился 3(15) августа 1892 года в деревне Высокая ныне Инсарского района  Республики Мордовия в крестьянской семье. В детстве и в юности жил в родной деревне, работал в крестьянском хозяйстве. На военную службу в Русскую императорскую армию был призван в июле 1914 года. Окончил полковую учебную команду, затем участвовал в Первой мировой войне в чине старшего унтер-офицера. В 1917 году избирался членом полкового и дивизионного солдатских комитетов.

После демобилизации в ноябре 1917 года вернулся на родину. С января 1918 года – заместитель председателя Инсарского уездного исполкома, с марта 1918-го – председатель этого исполкома. С января по октябрь 1919 года – член Пензенского губернского исполкома, одновременно заместитель председателя исполкома и начальник финансового отдела.

В Рабоче-крестьянской Красной армии (РККА) с октября 1919 года по партийной мобилизации. Участвовал в Гражданской войне в России, командир роты в Карелии, в Прибалтике, затем против польских войск на Западном фронте. С апреля 1920 года командовал батальоном, а с августа 1920 года – 52-м стрелковым полком 6-й стрелковой дивизии.

С октября 1921 года – на учёбе, в 1923 году окончил курсы Высшей тактическо-стрелковой школы командного состава РККА им. Коминтерна «Выстрел». С августа 1923 года – начальник войск частей особого назначения Курской губернии, с ноября 1923 года – командир 251-го стрелкового полка (Тула), с ноября 1924 года – командир-военком Отдельного Московского стрелкового полка (Москва), с октября 1926 года – помощник командира 19-ой стрелковой дивизии (Воронеж). В 1926 году окончил курсы усовершенствования высшего командного состава при Военной академии им. М.В. Фрунзе. С мая 1930 года – преподаватель в Военно-политической академии РККА. С августа 1930 года – начальник и военный комиссар Объединённой школы переподготовки начсостава оборонной промышленности СССР (Ленинград). В период с апреля 1931 по декабрь 1934 года был командиром и военкомом 53-й Пугачёвской стрелковой дивизии в Приволжском военном округе (Саратов), затем поступил в Военную академию имени М.В. Фрунзе (учился в Особой группе).

С апреля 1937 года – командир 18-й стрелковой дивизии. В 1938 году – командир 17-го стрелкового корпуса. С августа 1938 года – командующий войсками только что созданного Калининского военного округа. 7 октября 1938 года утверждён членом Военного совета при народном комиссаре обороны СССР.

В 1939 году И. В. Болдин командовал конно-механизированной группой (КМГ) во время похода советских войск в Польшу. Этой группой были взяты города Новогрудок, Слоним, Волковыск, Гродно, Белосток, Барановичи.

После участия в инспекционной поездке в Латвию был назначен командующим войсками Одесского военного округа.

В июне 1940 года с целью присоединения Бессарабии к СССР был образован Южный фронт, в составе которого была сформирована 9-я армия под командованием генерал-лейтенанта Болдина. После завершения мирного похода армия была расформирована, и Болдин И. В. вновь стал командующим войсками округа.

В сентябре 1940 года был переведён в Западный Особый военный округ на должность заместителя командующего войсками. С января 1941 года – 1-й заместитель командующего войсками Западного Особого военного округа.

Начало Великой Отечественной войны встретил в той же должности. В конце июня 1941 года получил приказ организовать контрудар по немецким войскам силами КМГ, в состав которой были включены четыре танковых и две моторизованные дивизии, кавалерийский корпус, а также отдельный гаубичный полк, с задачей окружить и уничтожить превосходящими силами противника в районе Гродно–Меркине. Несмотря на значительное превосходство в силах и средствах КМГ Болдина с поставленными задачами не справилась, сама вскоре была окружена и разгромлена в районе Белостока, а спустя месяц И. В. Болдин вышел с остатками войск из окружения.

С октября 1941 года – командующий 19-й армией, а с ноября 1941 по февраль 1945 года – командующий 50-й армией. Особенно отличился во время обороны Тулы в октябре-декабре 1941 года. Затем руководил войсками армии в Тульской, Калужской, Ржевско-Вяземской 1942 года, Ржевско-Вяземской 1943 года, Орловской, Смоленской, Брянской, Гомельско-Речицкой, Белорусской наступательных операциях.

Был снят с должности командарма командующим фронтом К. К. Рокоссовским в ходе Восточно-Прусской наступательной операции в феврале 1945 года за неудовлетворительную организацию разведки: не выявил отход противника и провёл многочасовую артиллерийскую подготовку в полосе армии по пустому месту. При этом генерал Болдин в течение двух суток докладывал в штаб фронта, что ведёт с противником решительный бой.

В апреле 1945 года Болдин был назначен заместителем командующего 3-го Украинского фронта, участвовал в завершающих сражениях на территории Австрии.

После войны Болдин командовал 8-й гвардейской армией (с 1946 года), войсками Восточно-Сибирского военного округа (с марта 1951 по апрель 1953), был 1-м заместителем командующего войсками Северо-Кавказского военного округа (с октября 1953 по май 1958 года). С 1958 года – в группе генеральных инспекторов Министерства обороны СССР. Автор книги мемуаров «Страницы жизни».

Награждён двумя орденами Ленина, тремя орденами Красного Знамени, орденами Суворова I-й степени, Кутузова I-й степени, двумя орденами Красной Звезды, орденом МНР; медалями «За оборону Москвы», «За взятие Вены» и др.

Умер 28 марта 1965 года в Киеве.

Именем Болдина названы улицы в Калуге, Туле, Саранске, Кадошкино (Мордовия), Могилёве, Гродно, Быхове, Климовичах, Славгороде, Чаусах, Черикове, Хотимске.

Звания «Почётный гражданин города Гродно» Иван Васильевич Болдин удостоен решением исполнительного комитета Гродненского городского Совета депутатов трудящихся № 44 от 22 февраля 1968 года.