Selain belajar hukum, Johannes juga banyak bergaul dengan anggota Perhimpunan Indonesia di sana seperti Ali Sastroamidjojo dan Iwa Kusumasumantri, meskipun ia tidak mendaftar menjadi anggota secara resmi. Sepulangnya dari Leiden, Johannes sudah menjadi seorang pejuang untuk persatuan dan kemerdekaan Indonesia.
Melansir wikipedia Indonesia, sepulangnya ke Indonesia, Johannes diangkat menjadi asisten hakim di Pengadilan Tinggi Surabaya berbekal rekomendasi dari dosennya Cornelis van Vollenhoven. Ia kemudian diangkat menjadi hakim penuh di Surabaya, sebelum ditunjuk menjadi hakim ketua di pengadilan negeri di Kraksaan, Probolinggo pada tahun 1929.
Semasa ini, Johannes bergabung dengan organisasi pemuda perantauan Ambon di Jawa, Sarekat Ambon (SA), dan menjabat sebagai ketua redaksi surat kabar organisasi SA, yakni Haloean. Johannes mencoba untuk mendaftarkan SA sebagai organisasi resmi sejak tahun 1930, meskipun permohonannya baru diterima tahun 1933. Dikarenakan depresi besar yang melanda perekonomian dunia sekitar waktu itu, Johannes juga membentuk suatu koperasi untuk para perantauan dari Maluku.
Johannes menikah dengan Henriete (Yet) Pattyrajawane pada tanggal 26 September 1931 di Yogyakarta, selama ia bekerja di Kraksaan. Pasangan suami-istri ini memiliki tujuh orang anak. Sebelum menikah dengan Henriete, Johannes sempat menjalin hubungan dengan seorang wanita dari Prancis, tetapi sepulangnya Johannes ke Indonesia ia memutuskan untuk memberhentikan hubungan tersebut, yang awalnya sudah terhalang masalah ekonomi dan belakangan karena niat Johannes untuk ikut pergerakan nasional Indonesia.
