В 1901-м получил степень бакалавра в университете[[Обернский Аубёрнауниверситет|Обернском университете]], после чего выбрал путь военного и стал [[первый сержант|первым сержантом]] [[Национальная гвардия|национальной гвардии]]. Параллельно поступил в университет Алабамы, не закончив который в 1905-м подал запрос на вступление в армию. Однако, был зачислен в морскую пехоту [[младший лейтенант|младшим лейтенантом]]. Со следующего года служил в составе 1-й бригады морской пехоты на различных базах США и в подконтрольных штатам странах. Участвовал в подавлении восстания на [[Гаити (остров)|Гаити]]. В 1918-м занимал штабную должность в экспедиционных войсках недалеко от [[Верден (Франция)|Вердена]]. После войны учился в военноморском колледже [[Ньюпорт (Род-Айленд)|Ньюпорта]], затем зачислен в штаб Корпуса морской пехоты. В 1939-м возглавил 1-ю бригаду морской пехоты, вскоре реорганизованную в дивизию. В 1941-м обучал морскую пехоту нового типа, базирующегося на танках и [[Плавающий бронетранспортёр|бронетранспортёрах-амфибиях]], ставшую 5-м десантным корпусом.
4 сентября 1943 г. по представлению Главнокомандующего Тихоокеанским флотом США адмирала Честера У. Нимица был назначен командующим V десантным корпусом. На этой должности подготовил и провёл высадку десанта успешной [[Гилберта-Маршалловская операция|Гилберто-Маршалловской операции]], после чего командовал [[Битва за Сайпан|высадкой американских войск на остров Сайпан]]. Тактические решения, принятые Смитом в этой операции, были не очень удачными, что вызвало его критику со стороны некоторых офицеров.
31 февраля 1944 года в журнале "Тайм" появилось фото Холланда Смита.
В дальнейшем Смит спланировал и возглавил [[Битва за Иводзиму|штурм Иводзимы]].
