Efrém nasceu no ano 306, bem no início do século IV, na cidade de Nisibi, atual Turquia. Cresceu em meio a graves conflitos de ordem religiosa, além das heresias que surgiam tentando abalar a unidade da Igreja. Mas todos eles só serviram de fermento para que sua fé em Cristo e sua ardente devoção à Virgem Maria vigorassem e se firmassem.
O pai de Efrém era sacerdote pagão, embora sua mãe, cristã, defendesse a liberdade religiosa educando o filho dentro dos preceitos da palavra de Cristo. Ele foi educado na infância entre a dualidade do paganismo do pai e do cristianismo da mãe, pois o Edito de Milão, autorizando a liberdade de culto, só entrou em vigor quando ele já tinha sete anos de idade. Mas o patriarca da família jamais aceitou a fé professada pelo filho. Como não o venceu nem com a força, nem com argumentos, expulsou-o de casa. Efrém foi batizado aos dezoito anos e viveu do seu próprio sustento, trabalhando num balneário local.
No ano 338, Nisibi foi invadida pelos persas. Efrém, então diácono, deslocou-se para a cidade de Edessa, também atual Turquia. Os poucos registros sobre sua vida contam-nos que era muito austero. Ele dirigiu e lecionou uma escola que pregava e defendia os princípios cristãos, escrevendo várias obras sobre o tema. Como não sabia grego, sua obra ficou isenta da influência dos teólogos seus contemporâneos, inclinados à controvérsia da Trindade. Efrém foi um ardente defensor da genuína doutrina cristã antiga.
Com veia poética, seus sermões atraiam multidões e sua escola era muito concorrida pelo conteúdo didático simples e exortativo, atingindo diretamente o povo mais humilde. Na sua época estava-se organizando o canto religioso alternado nas igrejas. Esse movimento foi iniciado pelos bispos Ambrósio de Milão e Diodoro da Antioquia. A colaboração do diácono Efrém de Nisibi foram poesias na língua nativa próprias para o canto coletivo, o que permitiu uma rápida divulgação.
Por sua linguagem poética recebeu o apelido carinhoso de “Harpa do Espírito Santo”. Somente a Nossa Senhora dedicou mais de vinte poemas, transformados em hinos. Suas poesias eram tão populares e empolgantes que da Síria espalharam-se e chegaram até o Oriente mediterrâneo, graças a uma cuidadosa e fiel tradução em grego.
Efrém morreu no dia 9 de junho de 373, em Edessa, sem ter sido ordenado sacerdote. Desde então, é venerado neste dia por sua santidade, tanto pelos católicos do Oriente como do Ocidente. O papa Bento XV declarou-o doutor da Igreja em 1920.