Συμμετείχε μαζί με τον Γιώργο Μπάτη, τον Στράτο Παγιουμτζή και τον Ανέστη Δελιά στο πρωτοποριακό για την εποχή μουσικό σχήμα «Η Τετράς η ξακουστή του Πειραιώς». Το 1933, έπειτα από την πιεστική παρότρυνση του Σπύρου Περιστέρη, ο Μάρκος φωνογράφησε το πρώτο εμπορικά επιτυχημένο τραγούδι με μπουζούκι στην Ελλάδα, το «Καραντουζένι» (ή «Έπρεπε να ‘ρχόσουνα ρε μάγκα μου») ερμηνεύοντάς το ο ίδιος, παρόλες τις επιφυλάξεις που είχε για την ποιότητα της φωνής του.

Η περίοδος λίγο πριν τον Β’ Παγκόσμιο Πόλεμο είναι ίσως η παραγωγικότερή του. Μεταξύ άλλων, το 1935 έγραψε και φωνογράφησε τη «Φραγκοσυριανή» (το γνωστότερο ίσως τραγούδι του), το οποίο όμως έγινε πολύ μεγάλη επιτυχία 25 χρόνια αργότερα με τη φωνή του Γρηγόρη Μπιθικώτση. Ο ίδιος αφηγείται για τη δημιουργία του τραγουδιού:

«Όλος ο κόσμος της Σύρου μ’ αγαπούσε πολύ, διότι κι εγώ ήμουν Συριανός και το είχαν καμάρι οι Συριανοί. Κάθε καλοκαιράκι με περίμεναν να πάω στη Σύρα να παίξω και να γλεντήσει όλη η Σύρα μαζί μου. Το 1935 πήρα μαζί μου τον Μπάτη, τον αδερφό μου τον μικρό και τον πιανίστα Ροβερτάκη και πήγα για πρώτη φορά στη Σύρο, σχεδόν είκοσι χρόνια αφ’ ότου έφυγα από το νησί. Πρωτόπαιξα, λοιπόν, σ’ ένα μαγαζί στην παραλία, μαζεύτηκε όλος ο κόσμος. Κάθε βράδυ γέμιζε ο κόσμος το μαγαζί κι έκατσα περίπου δύο μήνες. Εγώ, όταν έπαιζα και τραγουδούσα, κοίταζα πάντα κάτω, αδύνατο να κοιτάξω τον κόσμο, τα έχανα. Εκεί όμως που έπαιζα, σηκώνω μια στιγμή το κεφάλι και βλέπω μια ωραία κοπέλα. Τα μάτια της ήταν μαύρα. Δεν ξανασήκωσα το κεφάλι, μόνο το βράδυ την σκεφτόμουν, την σκεφτόμουν… Πήρα, λοιπόν, μολύβι κι έγραψα πρόχειρα:

Μία φούντωση, μια φλόγα

έχω μέσα στην καρδιά

Λες και μάγια μου ‘χεις κάνει

Φραγκοσυριανή γλυκιά…

Ούτε και ξέρω πώς την λέγανε ούτε κι εκείνη ξέρει πως γι ‘ αυτήν μιλάει το τραγούδι. Όταν γύρισα στον Πειραιά, έγραψα τη Φραγκοσυριανή.»