Ada, Avrupalılarca ilk kez Kristof Kolomb tarafından 1493'de görülmüş, sonraki 150 yıl boyunca da birçok ulusun egemenliğine girmiştir. 1636'dan beri, arada başka ülkelerce ele geçirilmesine karşın, Hollanda'nın egemenliğinde kalmıştır. Adanın adı, katolik ermiş Eustatius'dan gelmektedir.
Ada, eyer biçiminde olup, güneydoğusunda 602 metre yüksekliğindeki (sönmüş bir yanardağ olan) Mazinga Dağı, kuzeybatısında ise daha küçük Signal Hill/Little Mountain ("Küçük Dağ") dağları vardır. Mazinga dağındaki yanardağı ağzı, gezginlerin ilgisini çeken bir yerdir.
Ermiş Eustatiusyurttaşları ABD'yi tanıyan ilk "ulus" olmakla övünürler. Bu tanıma adaya 1775'de gelen USS Andrew Doia adlı Amerikan gemisinin top atışıyla selamlanmasıyla olmuştur. O zamanlar adanın şeker kamışı üretim yeri olmasının yanısıra kuşatılmış Amerika sömürgelerine mal kaçırılan yerlerden birisi olması önemini daha da arttırmıştır. Bir ara insan sayısı 20 bine dek çıkmışsa da, sonradan Kurasao ile Ermiş Martin (Sint Maarten) adalarının gölgesinde kalmıştır.