Иван Михайлович Шарый родился 25 февраля 1919 года в селе Шаровка Александровского района Ворошиловградской области. В годы Великой Отечественной войны служил красноармейцем. 6 августа 1941 года попал в плен в городе Вознесенске Одесской области УССР. Содержался в лагере для военнопленных Шталаг 311 (XI C), лагерный номер — 1431. Умер в плену 25 марта 1943 года.