К.И. Рубинский родился в г. Пенза в 1860 г.

В 1884 г. он закончил историко-филологический факультет Харьковского университета.

В 1885 г. в этом же университете К.И. Рубинскому была присвоена ученая степень кандидата исторических наук.

Затем он работает учителем гимназии в Харькове и реального училища в Пензе.

В период с 1883 по 1930 гг. Константин Иванович прошел путь от помощника библиотекаря до директора библиотеки Харьковского университета.

В это время расширяется библиотека, организуются алфавитный и систематический каталоги, ведется книгообмен с научными библиотеками России и Зап. Европы, организуется студенческая библиотека.

В 1911 г. он принял активное участие в работе I Всеросссийского съезда по библиотечному делу, как сопредседатель, докладчик и руководитель секции.

Их под пера К.И. Рубинского вышло более 45 библиотековедческих трудов. Всего же им было опубликовано более 60 работ, значительное число его опусов осталось в рукописях.

В последующие годы он занимался научой и учебной библиотечной работой.

Умер К.И. Рубинский 2.12.1930 г. в г.Харьков