Кафедра возникла (как кафедра высшей математики) вместе с созданием самого физического факультета. Ей была поручена организация математического образования студентов факультета. Основателем кафедры был академик Владимир Иванович Смирнов. Всем студентам и выпускникам факультета прекрасно известен его многотомный учебник “Курс высшей математики”. Первые два тома этого курса были написаны как более или менее стандартные учебники анализа, адаптированные к интересам студентов-физиков. Все дальнейшие тома, наряду с оригинально изложенным учебным материалом по курсам линейной алгебры и методов математической физики, содержали многие разделы, ориентированные на текущие передовые интересы физиков-профессионалов. В.И.Смирнов был выдающимся специалистом в области теории аналитических функций и математической физики. Благодаря своему высокому профессионализму и редкостным личным качествам он оказал огромное влияние на развитие математики в нашем городе.
В 1953 г. кафедре, в дополнение к обязанностям по математическому образованию студентов факультета, были поручены развитие научных исследований в области математической физики и подготовка специалистов в этой области. При этом кафедра и приобрела современное название – кафедра высшей математики и математической физики. Хотя со времени самого ее образования здесь работали в роли преподавателей многие известные математики, до момента преобразования кафедры на ней не велось исследований в каком-либо специальном математическом направлении. Выбор математической физики в качестве такого направления был естественным и имел несколько причин. Во-первых, научные интересы самого В.И.Смирнова в этот период стали смещаться в сторону математической физики. Во-вторых, В.И.Смирнов поддерживал тесные личные и профессиональные отношения с руководителем родственной кафедры теоретической физики академиком Владимиром Александровичем Фоком, выдающимся физиком-теоретиком и вместе с тем крупным специалистом по математической физике. Его ученик, профессор Георгий Иванович Петрашень был одним из энтузиастов создания кафедры математической физики. Но подлинным мотором этой акции была (молодая в то время) Ольга Александровна Ладыженская. Позже избранная академиком, О.А.Ладыженская была одной из наиболее ярких женщин в истории математики. Она до конца жизни оставалась профессором кафедры.
Первые выпускники кафедры, ученики О.А.Ладыженской, позднее стали видными учеными, лидерами Ленинградской-Петербургской математической школы. К их числу принадлежит и Людвиг Дмитриевич Фаддеев, один из крупнейших математиков современности. Л.Д.Фаддеев принял кафедру после кончины В.И.Смирнова в 1974 г. и заведовал ею до 2001 г. Выпускником кафедры был и академик Станислав Петрович Меркурьев, первый ректор Университета в перестроечные годы.
Уже само перечисление этих имен говорит о том, что кафедра является ярким научным и педагогическим коллективом. На ней работали и продолжают работать выдающиеся ученые, отмеченные разнообразными знаками высокого общественного признания: заслуженные деятели науки, лауреаты Государственной и Университетской премий, различных международных премий, почетные профессора зарубежных университетов. Патриархами кафедры были почетный профессор СПбГУ Михаил Соломонович Бирман, один из создателей математической теории рассеяния, выдающийся специалист в области спектральной теории дифференциальных операторов; профессор Владимир Сергеевич Булдырев, один из руководителей известной Петербургской школы теории дифракции и распространения волн; почетный профессор СПбГУ Владимир Савельевич Буслаев, математик с поразительно широким кругом интересов, автор глубоких результатов в самых разных областях математической физики. Владимир Савельевич Буслаев возглавлял кафедру в 2001-2012 гг. (до конца своей жизни). Десятки выпускников кафедры стали известными учеными. Жизнь рассеяла их по разным городам и странам, многие из них занимают профессорские позиции в крупных Университетах Америки и Европы. Однако научный статус кафедры не упал, на смену им пришли новые одаренные выпускники физического и математико-механического факультетов. В настоящее время в коллективе кафедры более 10 профессоров. Кафедру возглавляет профессор Татьяна Александровна Суслина, ученица Михаила Соломоновича Бирмана, известный специалист в области спектральной теории дифференциальных операторов.