Yarkaya, yar ve kaya sözcüklerinden oluşan bir erkek adıdır. Yar, Osmanlıca üzerinden Ana Türkçe *yār (uçurum, dik kıyı) sözcüğüne dayanır; Eski Türkçede de dik yamaç anlamında geçer. Bu sözcük, aynı biçimde yazılan ve sevgili anlamına gelen Farsça kökenli yâr ile karıştırılmamalıdır. Kaya ise Ana Türkçe *kaya (kaya, dağ) biçiminden gelir; Azerice qaya, Türkmence gaýa gibi akrabaları vardır ve iri, sert taş kütlesini anlatır. İki öğe birlikte uçurum kenarında yükselen sarp bir kaya imgesi kurar; TDK'nin kaydı da bu yöndedir.
Kaya kendi başına da bir erkek adı ve soyadıdır; benzer isimler arasındaki Akkaya, Akçakaya ve Özkaya bu öğeyle biten adlardır. Yarkaya'yı ötekilerden ayıran şey, ilk öğesinin renk ya da nitelik yerine bir yer şeklini, uçurumu anlatmasıdır. Üç hecede okunur (Yar-ka-ya); ünlüyle bittiğinden ekler kaynaştırma sesiyle gelir: Yarkaya'ya, Yarkaya'nın.