Pada sekitar waktu ini, sejumlah anggota SA mengusulkan agar SA bergabung ke Pemufakatan Perhimpunan-perhimpunan Politik Kebangsaan Indonesia (PPPKI) yang mewadahi berbagai organisasi pergerakan nasional di tingkat daerah sampai seluruh Indonesia.
Namun, Johannes memandang bahwa organisasi keagamaan seperti Sarekat Islam tidak seharusnya ikut dalam pergerakan politik, sehingga ia menolak bergabungnya SA ke dalam PPPKI. SA belakangan tetap bergabung ke PPPKI pada tahun 1932. Pada bulan Januari tahun itu, Johannes sempat berpidato dalam kongres PPPKI dengan judul Azab Sengsara Kepoelauan Maloekoe yang bertema penjajahan di bidang ekonomi yang dilakukan oleh Vereenigde Oostindische Compagnie (VOC) dan lalu pemerintah Belanda.
Pidato ini belakangan diterbitkan sebagai suatu buku yang dibredel pemerintah kolonial. Dalam karya tulisnya, ia juga mencerca sistem pendidikan Belanda di Maluku yang dituduhnya bertujuan untuk menciptakan pegawai negeri, tentara, dan pelaut untuk pemerintah kolonial.
Pandangan Johannes untuk negara Indonesia setelah merdeka berbentuk suatu negara serikat, sejalan dengan pandangan tokoh-tokoh lain seperti Sam Ratulangi, Tan Malaka, atau Mohammad Hatta.
Karena aktivitas anti-kolonial Johannes, ia diberikan pilihan oleh pemerintah Belanda: mundur sebagai hakim atau berhenti ikut pergerakan kemerdekaan. Johannes memutuskan untuk mundur sebagai seorang hakim dan beralih haluan menjadi seorang pengacara.
