Роден е на 8 декември 1890 г. в Скопие. Учи в Цариградската българска духовна семинария и в Солун, а през 1909 г. записва Лайпциската консерватория, специалност „Композиция“ и е възпитаник на големите музикални педагози Щефан Крел, Макс Регер и Хуго Риман. При завръщането си в България през 1913 г. става учител по музика във Видин, а по-късно учителства и  в Ямбол и София.

Йосиф Чешмеджиев е бил и диригент на Македонския смесен хор – София, сътрудник-записвач на народни песни към Народния етнографски музей, музикален редактор на в. „Македония“ и музикална библиотека „Пантеон“.

Автор е на 2 симфонии, пиеси за оркестър, инструментални пиеси, хорови, масови и естрадни песни, детски песни и др.

Издава няколко сборника за народни песни и учебници и учебни помагала за обучение по музика в училище.

Баща е на композитора Евгени Йосифов Чешмеджиев.

Умира на 28 април 1964 г. в София.