Это красивое и, надо сказать, редкое название фиксируется документами уже с 1676 года. Улица в самом деле проходила среди многочисленных рощ. Раньше она называлась иначе - Валахская, или Валахская дорога и была торговым путем в Волошину (Молдавию).
В 1938 году часть улицы (от начала — до современной Водогинной) была названа именем польского генерала Розвадовского. Другая часть имела название Верхней Зеленой.
Еще в середине XIX столетия это была малонаселенная окраина, где в густой зелени прятались дворцы Замойских, Яблоновских, Руссоцких и других представителей знати. Им принадлежала земля этого района. Например, квартал в четырехугольнике современных улиц Конопницкой — Левицкого — Вагилевича — Зеленая был собственностью графов Замойских. Им же принадлежала земля между Самийленко и Руставели.
Бурное развитие улицы приходится на вторую половину XIX столетия. В начале нынешнего столетия здесь прошла линия трамвая (с выходом на ул. Лычаковскую). На Зеленой селились представители средних слоев населения: чиновники, врачи и т.п.. Было немало и ремесленных мастерских. Тем не менее верхняя часть еще пятьдесят лет назад была обычной полевой дорогой. Промышленные предприятия — несколько кирпичных заводов и фабрика мебели — были здесь еще в начале XX столетия. Но настоящее освоение бывшей Верхней Зеленой началось лишь во времена Советской власти. На бывших пустырях выросли кварталы многоэтажных домов, целый ряд промышленных предприятий, положивших начало Сиховскому промышленному узлу. В 1955 году руками молодежи города был разбит парк и сооружен стадион «Дружба» (теперь «Украина»).