A trajetória de Ali al-Rimawi se confunde com o período de transição vivido pela Palestina sob o domínio otomano e a ocupação britânica. Nascido em 1860 na vila de Beit Rima, na atual região de Ramallah, ele se destacou como estudioso, poeta e jornalista, desempenhando um papel central na vida intelectual de Jerusalém durante as últimas décadas do Império Otomano.
Filho do respeitado estudioso islâmico Shaykh Mahmoud al-Rimawi, Ali recebeu sua primeira educação em casa antes de ingressar nas madraças de Jerusalém. Sua busca pelo conhecimento o levou ao Cairo, onde passou doze anos no seminário de Al-Azhar, aprofundando-se no estudo da jurisprudência islâmica, gramática árabe e literatura. Foi nesse período que começou a se destacar como poeta, publicando versos em periódicos egípcios.
De volta à Palestina, al-Rimawi consolidou sua influência na imprensa otomana. Atuou como editor dos jornais al-Ghazal e al-Quds al-Sharif, publicações que transmitiam decretos do governo e notícias da administração local. Seu conhecimento da língua árabe e do direito islâmico também o tornou professor em escolas importantes, incluindo a Laeml School, financiada pela comunidade judaica sefardita, e o instituto de formação de professores al-Ma‘arif. Além disso, foi contratado pelo então mufti de Jerusalém, Shaykh Tahir al-Husseini, para ensinar seus filhos, entre eles Amin al-Husseini, que anos depois se tornaria uma das figuras mais importantes da resistência palestina contra o sionismo e o colonialismo britânico.
Em 1907, al-Rimawi lançou seu próprio jornal, Bayt al-Maqdis, rapidamente censurado pelo regime otomano. A revolução dos Jovens Turcos, no ano seguinte, proporcionou uma breve abertura política, permitindo que ele voltasse à atividade jornalística com o semanário al-Najah, que circulou até 1910. Defensor da aproximação entre árabes e otomanos, publicou textos argumentando que a língua turca não representava uma ameaça à identidade árabe e incentivando os palestinos a aprendê-la para ocupar posições na administração imperial.
Al-Rimawi foi um crítico frequente da corrupção nas administrações locais e da negligência estatal na educação, temas que abordava em suas colunas no jornal al-Quds. Seu envolvimento na política otomana o levou a integrar, em 1915, uma delegação de intelectuais árabes enviada a Istambul para reafirmar lealdade ao sultão e exaltar a vitória otomana em Gallipoli contra as forças britânicas. No retorno à Palestina, dedicou um poema a Ahmad Jemal Paxá, governador do Levante e responsável pela repressão a nacionalistas árabes.
Com a derrota otomana na Primeira Guerra Mundial e a invasão britânica da Palestina, al-Rimawi rapidamente mudou de posição, alinhando-se ao novo regime colonial. Passou a escrever para The Palestine News, publicação propagandística das forças britânicas, e celebrou a ocupação de Jerusalém em seus poemas, louvando os novos governantes. Essa guinada oportunista contrastava com a postura de resistência assumida por amplos setores da população palestina diante do domínio imperialista e do avanço do sionismo sob a proteção britânica.
Em 1919, al-Rimawi morreu em Jerusalém devido a uma pneumonia, sendo sepultado em sua terra natal.