Костянтин Ольшанський народився 8 травня 1915 року у cелі Приколотне Харківської губернії в сім’ї службовця. Після закінчення десятирічки працював автослюсарем.

До лав Червоної Армії був призваний в 1936 році, службу проходив на Чорноморському флоті. Після закінчення служби в навчальному загону залишився там викладачем, а в 1941 році пройшов курси молодших лейтенантів.

У боях Великої Вітчизняної війни – з 1941 року.

Брав участь в обороні Севастополя, потім направлений для підготовки фахівців для ВМФ в електромеханічну школу, а в 1943 році був призначений командиром роти автоматників 384-го окремого батальйону морської піхоти Чорноморського флоту, у складі якої брав участь в обороні Єйська, звільнення Таганрога, Маріуполя та прилеглих селищ Ялта і Мелекіно.

У березні 1944 року для надання допомоги наступаючим військам у звільненні міста Миколаєва був призначений командиром десантного загону чисельністю 68 осіб, що складався з 55 морських піхотинців, 10 саперів, 2 зв’язківців і провідника. У ніч на 26 березня 1944 загін висадився в тил противника в порту Миколаєва. Завданням десанту були захоплення порту, розмінування підготовлених німцями до підриву основних портових споруд і утримання порту до підходу наступаючих радянських військ. Загін зайняв і пристосував до оборони кілька будівель порту, а потім протягом двох діб вів запеклі бої, відбивши 18 атак противника і знищивши близько 700 гітлерівців.

Старший лейтенант Костянтин Ольшанський разом з 57 своїми бійцями загинув в бою 27 березня 1944 року. З усього десанту в живих залишилися 11 осіб; всі були поранені і обпалені, п’ятеро – у важкому стані.

В історію ця військова операція увійшла під назвою «Десант Ольшанського».

Указом Президії Верховної Ради СРСР від 20 квітня 1945 року за мужність і героїзм, проявлені в боях з німецько-фашистськими загарбниками, старшому лейтенанту Ольшанському Костянтину Федоровичу посмертно присвоєно звання Героя Радянського Союзу. Цього звання також були удостоєні всі бійці десантного загону Ольшанського.