Первое название улицы – 5-я улица Октябрьского Поля, по имени местности, где она проходила. В 1965 году, к 20-летию Победы, улице дали имя дважды Героя Советского Союза, маршала Павла Семеновича Рыбалко.

Во время Великой Отечественной войны Павел Семенович командовал 3-й танковой армией, отличившейся в битве на Днепре, Курской битве, Киевской наступательной операции. К крупным достижениям армии Рыбалко можно отнести также участие в освобождении Львова в 1944 году. Фашисты тогда заминировали многие памятники города, но, благодаря стремительному наступлению Красной Армии, не успели разрушить его архитектурный облик.