Odată, aflându-se pe o corabie ocupându-se cu comerțul său, căpitanul vasului, care nu era ortodox, a intrat în conflict cu Ioan, discutând despre credință. Neplăcându-i cuvintele sfântului, căpitanul a hotărât să se răzbune și să-i facă probleme odată ajunși la Cetatea Albă. Cât vasul a acostat la Cetatea Albă, căpitanul s-a dus la conducătorul orașului, care era închinător la foc, și i-a spus că pe corabia sa se află un om învățat care vrea să devină și el închinător la foc. Astfel, conducătorul l-a chemat pe Ioan să se alăture închinătorilor la idol și să renunțe la credința sa.
Dumnezeu i-a dat curaj și înțelepciune să facă față celor necredincioși și să mărturisească drept că este creștin, după care a fost supus la bătăi crunte și trupul i-a fost sfâșiat și carnea de pe el cădea bucăți. Sfântul mucenic a mulțumit lui Dumnezeu pentru că l-a făcut vrednic să-și verse sângele pentru EL, curățindu-l de păcate.
Păgânii l-au băgat în lanțuri și l-au închis în închisoare până a doua zi. În dimineața următoare, conducătorul orașului a ordonat să fie adus din nou la el și mucenicul s-a prezentat cu fața luminată și bucuroasă. Refuzând cu curaj să se lepede de Hristos și numindu-l pe guvernator unealtă a lui satana, mucenicul a fost bătut cu bâte până când toate cele dinăuntrul său au ieșit la vedere.
Mulțimea adunată n-a putut suporta spectacolul macabru și l-a huiduit pe guvernator pentru torturarea unui om fără apărare. Apoi, oprind bătaia, guvernatorul a dat ordin ca mucenicul să fie legat de coada unui cal sălbatic și să fie tras de picioare pe străzile orașului. În special locuitorii cartierului iudeu și-au bătut joc de el și au aruncat cu pietre. În cele din urmă, cineva a luat o sabie și i-a tăiat capul martirului.
Trupul sfântului și capul tăiat au zăcut acolo până seara și niciun creștin nu a avut curajul să le ridice. Noaptea a apărut deasupra lui un stâlp de lumină și o mulțime de lumini aprinse. Trei oameni care aveau lumini cântau psalmi și înmiresmau trupul sfântului. Unul dintre iudei, crezând că sunt creștini care au venit după trupul mucenicului a luat un arc și a vrut să tragă în ei, dar puterea lui Dumnezeu l-a oprit și l-a împietrit.
Dimineața, viziunea a dispărut dar arcașul a rămas pe loc împietrit. Abia după ce a mărturisit ce i s-a întâmplat din voia lui Dumnezeu, a fost eliberat de legăturile invizibile. Când a auzit guvernatorul, a dat permisiune să se îngroape trupul mucenicului în biserica orașului. Acestea s-au întâmplat între anii 1330 și 1340. Unii spun că martiriul s-a săvârșit în altă perioadă, de exemplu Sf. Nicodim de la Sfântul Munte vorbește de anul 1642, în timp ce alții spun că ar fi 1492.
Căpitanul care l-a trădat pe Sf. Ioan s-a căit de faptele sale și s-a hotărât în secret să fure moaștele și să le ducă în țara lui. Însă sfântul i-a apărut în vis preotului bisericii și l-a înștiințat de aceasta. După 70 de ani, moaștele Sfântului Ioan cel Nou au fost mutate la Suceava capitala Moldo-Vlahiei și așezate în biserica catedralei.

