Koca Yusuf, Bulgaristan'ın Şumnu Kasabası'nın Karalar Köyü'nde 1857 yılında doğdu. Daha çocukken köyde danalarla boğuşmaya,  sonra kispeti ayağına geçirip güreşmeye başladı. Babası ve dedesi Yusuf'un ilk güreş ustalarıydı. Koca Yusuf döneminin ünlü güreşçileri tarafından yetiştirildi. Kırkpınar tarihinde 26 yıl boyunca üst üste başpehlivanlığı kazandı. Sultan Abdülaziz'in başpehlivanı olan Kel Aliço ile güreşti. Sabah başlayan mücadele akşam sona erdi. Kel Aliço güreşi bırakmış başpehlivanlık unvanını Koca Yusuf'a devretmiştir. 
Kel Aliço'nun çırağı olan ve 18 yıl Kırkpınar başpehlivanlığını kazanan Adalı Halil'i iki kez ardı ardına yendi. Sultan Abdülaziz, Sultan V. Murat ve Sultan II. Abdülhamit döneminde pek çok güreş yaptı. Ünlü pehlivanlar, onun kendilerinden üstün olduğunu kabul ettiler. Fransız güreşçi Joseph Doublier ile tanışması ve Fransa'da güreşme teklifi alması hayatını değiştirdi.  
Koca Yusuf, başlangıçta yurt dışına çıkmayı kabul etmediyse de: Müslümanların güçlü olduğunu ispat etmenin bir cihat olduğu şeklindeki ulema açıklamaları üzerine 1897'de Paris'e gitti. İlk maçını dünya şampiyonu Sabés ile yaptı ve yendi. Fransa'da üç yıl (1894-1897) kaldı. Döneminin ünlü güreşçilerini yendi. Avrupa'da rakip bulamaz hale geldi.
Amerikalı zengin bir kadın Koca Yusuf'a evlenme teklif etmiş ve "şayet benimle evlenirsen bütün malım senin olur" demiş. Buna mukabil Koca Yusuf; "ben damızlık değilim" diyerek teklifi reddetmiş. Ancak Koca Yusuf'un gözünde kazandığı paraların önemi yoktur. O vatanını, ailesini özlemiştir.  Kalan ömrünü ailesi ile İstanbul'da geçirmek ister. Türkiye'ye dönmek üzere 21 Mayıs 1898'de Fransız bandıralı La Bourgogne transatlantiği ile yola çıkan Koca Yusuf, bindiği geminin 4 Temmuz sabahı İngiltere bandıralı bir şilep ile çarpışıp battığından tüm yolcular ve mürettebatla birlikte boğularak ölmüştür.
Koca Yusuf'un Amerika'da kazandığı güreşlerde kazandığı paraları altına çevirdiği,  bu 40 kg'lik ağırlık nedeniyle okyanusta boğulduğu da söylenir. Koca Yusuf'un naşının Atlas Okyanusu'nda kaybolduğu sanılmaktadır. Ancak şair Sunay Akın'ın "Önce Çocuklar ve Kadınlar" adlı kitabının "Okyanusa Yenilen Güreşçi" başlıklı bölümünde Azor Adaları'nda mezarının bulunduğu iddiasına yer verilmiştir. Kaza sonrasında civar adalara vuran gemi yolcularına ait 20 cesetten pek heybetli olanının Koca Yusuf olabileceğini iddia eden yazar, cesedin adadaki kilisenin mezarlığına defnedildiğini belirtmiştir.
Amerikan basını, gemi kazasında ona özel bir yer ayırmıştı. "Eğer Koca Yusuf, Okyanus'un derinliklerinde yatıyorsa, kesinlikle yüzükoyun yatıyordur. Çünkü sağlığında onun sırtını kimse yere getirememişti. Okyanuslar da getirememiştir". Rus güreşçi Hakimşmit, 1949 yılında, Koca Yusuf için Paris'te şu açıklamayı yaparak aynı düşünceyi doğrulamış: "Dünyada onun sırtını yere getirebilecek birinin bulunabileceğini hiç sanmıyorum. Buna imkân yoktur. Onun Atlas Okyanusu'nun derinliklerinde sırtüstü değil, yüzükoyun yattığına yemin edebilirim" demiştir.