Pada tahap pertama, algoritma membaca dan mencatat apa yang kita sukai. Pada tahap berikutnya, ia memprediksi apa yang kemungkinan akan kita lakukan. Pada tahap yang lebih jauh, sistem tidak hanya memprediksi perilaku, tetapi mulai ikut membentuknya.
Di sinilah salah satu bagian paling tajam dari analisis Zuboff: persaingan untuk menghasilkan prediksi yang semakin akurat mendorong sistem bukan hanya mengumpulkan semakin banyak data, tetapi juga melakukan intervensi terhadap perilaku manusia agar perilaku tersebut semakin mudah diprediksi dan diarahkan.
Dengan demikian, terjadi sebuah rangkaian: surveillance → prediction → intervention → behavioral modification.
Berawal dari pengawasan, berlanjut pada prediksi, kemudian intervensi, dan pada akhirnya dapat bermuara pada perubahan perilaku.
Inilah yang membuat era algoritma berbeda dari sekadar era komputer.
Ancaman terhadap Otonomi Pikiran
Franklin Foer, melalui bukunya World Without Mind (2017), membawa persoalan ini ke wilayah yang lebih mendasar. Yang dipertaruhkan bukan hanya privasi, melainkan juga otonomi pikiran manusia.
Foer mengkhawatirkan bagaimana perusahaan teknologi besar telah mengubah cara manusia memperoleh informasi dan membentuk pemikiran. Algoritma dapat mendorong konformitas, mempersempit pengalaman informasi, dan mengurangi ruang bagi kontemplasi serta pemikiran yang otonom.
