Yon Koeswoyo mulai aktif bermusik sejak awal dibentuknya grup musik bersama saudara kandungnya keluarga Koeswoyo yakni :([[Jon Koeswoyo]] pada Bass, [[Tonny Koeswoyo]] pada gitar, [[Nomo Koeswoyo]] pada drum, Yon Koeswoyo pada vokal, dan [[Yok Koeswoyo]] pada vokal) dan seorang dari luar keluarga Koeswoyo yang bernama [[Jan Mintaraga]] sebagai gitaris awalnya. Pada mulanya mereka menamakan grup ini '''Kus Brothers''' pada tahun 1958. Sebetulnya inspirasi duet Yon dan Yok itu adalah ''[[Kalin Twin]]'', dua penyanyi Amerika bersaudara yang kembar. Namun dalam perkembangannya grup ini meniru pola ''[[Everly Brothers]]'' di Amerika, karena menggunakan 2 penyanyi kakak beradik yakni Yon dan Yok. Mereka merekam album pertama pada tahun 1962. Setelah Jan Mintaraga mengundurkan diri, grup ini berganti nama menjadi '''Kus Bersaudara''' pada tahun 1963.
Beberapa waktu kemudian kakak tertua mereka Jon Koeswoyo pun mengundurkan diri, sehingga menyisakan 4 personel kakak beradik yang dipimpin oleh Tonny Koeswoyo. Grup ini kemudian kembali mengganti namanya menjadi '''Koes Bersaudara'''. Dalam formasi yang baru ini Yon tetap sebagai penyanyi utama disamping memegang alat musik rhythm gitar, disamping adiknya Yok yang juga masih menjadi penyanyi dengan memegang alat musik bass gitar. Yon memang sejak awal diproyeksikan oleh Tonny untuk menjadi vokalis karena memiliki suara yang bagus. Karena itulah ia tak pernah secara khusus diajari oleh Tonny untuk memainkan alat musik gitar. Kemampuannya bermain gitar dipelajarinya sendiri secara otodidak dengan mengamati permainan gitar abangnya Tonny.
Grup ini meraih kesuksesan dalam beberapa album rekaman berikutnya selama beberapa tahun sebelum dipenjarakan oleh rezim [[Orde Lama]] [[Soekarno]] di Penjara Glodok pada tanggal 29 Juni 1965. Yon dimasukkan satu sel bersama saudara-saudaranya, [[Tony Koeswoyo|Tony]], [[Nomo Koeswoyo|Nomo]], dan [[Yok Koeswoyo|Yok]]. Mereka dianggap memainkan lagu-lagu ''ngak-ngik-ngok'' (kebarat-baratan) yang terlarang masa itu karena dianggap musik yang tidak mencerminkan bangsa Indonesia pada tahun [[1965]]. Namun Sebenarnya Pemenjaraan ini bertujuan untuk persiapan Bela Tanah Air saat terjadinya perselisihan dengan malaysia, saat presiden Soekarno menyatakan ganyang malaysia lewat seni permusikan. Pada Awalnya untuk dikirim ke Singapura, Kalimantan Utara, Bahkan Malaysia. Namun sebelum sempat dikirim untuk bela negara lewat permusikan, pemerintahan Soekarno telah lengser. Mereka akhirnya dibebaskan pada tanggal 29 September 1965 (tepat sehari sebelum pecahnya Gerakan '''30 September PKI''') dan tidak jadi dikirim ke Singapura, Kalimantan Utara, dan Malaysia. Selepas itu karier bermusik mereka kembali berjalan.
=== Koes Plus ===
Meski meraih kesuksesan dalam bermusik, namun kehidupan anggota grup ini tetap dalam kesulitan ekonomi. Abangnya Nomo Koeswoyo berinisiatif meninggalkan posisinya sebagai penabuh drum pada tahun 1969. Ia memilih berusaha sampingan di luar bidang musik sebagai pedagang untuk menghidupi keluarganya. Oleh Tonny Koeswoyo, Nomo disuruh memilih untuk fokus pada musik di Koes Bersaudara atau keluar. Nomo bersikap lebih pragmatis dan memiliki prinsip yang berbeda dengan sang kakak, karena saat itu ia telah menikah dan telah memiliki 1 orang anak. Posisi drummer yang ditinggalkan Nomo Koeswoyo kemudian digantikan oleh [[Kasmuri]] (dikenal dengan panggilan [[Murry]]). Masuknya Murry adalah rekomendasi dari Yon kepada Tonny. Yon dikenalkan kepada Murry lewatnya temannya '''Tommy Darmo'''.<ref name="seleb.tempo.co">http://seleb.tempo.co/read/news/2010/06/20/001256795/legenda-50-tahun-koes-plus-wawancara-yon-koeswoyo</ref>
