Иван Иванович Голубев родился 5 марта 1949 года в селе Троице-Татарово Вязниковского района Владимирской области. Русский.
Окончил среднюю школу.
1968-1970 гг. - срочная военная служба
С 1970 года работал в органах МВД СССР на должности инспектора уголовного розыска ОВД Вязниковского горисполкома Владимирской области. В 1972 году Голубев был переведён в УВД Владимирской области, где работал на должности инспектора отдела по борьбе с хищениями социалистической собственности, затем работал на вышестоящих должностях.
В 1976 году Голубев закончил Горьковский факультет Всесоюзного заочного юридического института, г. Нижний Новгород
С 1980 по 1981 годы был в долгосрочной служебной командировке в Афганистане, где работал на должности заместителя по разведке командира спецподразделения.
В 1993 году был назначен на должность начальника УВД Владимирской области
1995 г. - назначил на должность начальника Главного Управления обеспечения общественного порядка (ГУООП) МВД РФ. Выезжал в "горячие точки" с целью руководства действиями милиции на месте, в том числе в Карачаево-Черкесию и Дагестан.
Принимал участие в первой чеченской войне.
В апреле 1999 года был назначен на должность заместителя Министра внутренних дел РФ и одновременно с 1999 по 2000 годы был полномочным представителем Президента Российской Федерации в Республике Карачаево-Черкесия, где была угроза возникновения межэтнического конфликта.
Во время вторжения вторжения боевиков в Дагестан возглавлял действия специальных частей милиции.
В ходе второй чеченской войны руководил подразделениями Объединенных сил МВД в Чечне.
Умер 20 декабря 2003 года в Москве после тяжелой и продолжительной болезни. Похоронен на Троекуровском кладбище.
Генерал-полковник милиции
Указом Президента России от 14 октября 2000 года за мужество и героизм, проявленные в ходе контртеррористической операции на Северном Кавказе присвоено звание Героя Российской Федерации с вручением медали "Золотая Звезда"
Государственные награды:
Медаль "Золотая Звезда" Героя России
Орден "За заслуги перед Отечеством" 4 степени;
Орден Почёта;
Медали.
Память:
средняя школа им. И. И. Голубева г. Владимир
Мстёрская средняя школа им. И. И. Голубева
На здании ГУВД Владимировской области установлена мемориальная доска работы Ильи Шанина
на территории учебного центра ГУВД в посёлке Юрьевец установлен памятник работы Ильи Шанина.
памятник установлен в селе Троице-Татарово Вязниковского района Владимирской области.
в Нижнем Новгороде проводится ежегодная спартакиада по самбо Приволжского федерального округа на призы Героя Российской Федерации генерала И. И. Голубева, а во Владимире — Всероссийский турнир по дзюдо, посвященный памяти И. И. Голубева