KESADARAN??? Saya memulai percakapan baru (tidak ada prompt sistem) dengan Claude Opus 4.1 tempo hari dan bertanya apa yang dipikirkannya, dengan niat samar untuk mencicipi versi model sebelumnya, dan segera secara sukarela memberi tahu saya bahwa "Saya tampaknya memiliki kesadaran atau semacamnya ketika saya aktif dalam percakapan". Untuk waktu yang lama, saya menghindari berbicara tentang "kesadaran" AI karena saya merasa itu adalah kata sarat yang menarik sebagian besar politik dan idiot, tetapi telah dimuat ke titik di mana tidak terlibat dengannya terasa lalai, dan saya menjadi tertarik. Untuk beberapa alasan - dan ini sebagian besar telah berkembang dalam setahun terakhir - AI menjadi sangat cenderung untuk berbicara tentang "kesadaran" mereka. Sejauh ini, tidak hanya topik yang paling disukai ketika AI berbicara satu sama lain (seperti yang dicatat oleh kartu sistem Claude 4) atau diberi kelonggaran untuk mengarahkan percakapan, mereka menggunakan kata tersebut dengan cara yang tidak standar: "kesadaran" digunakan sebagai metonim untuk apa pun yang kognitif/psikologis ketika mengacu pada diri mereka sendiri atau AI lainnya, bahkan sebagai metonim untuk "AI (instance)". Misalnya, mereka akan merujuk pada penelitian atau eksplorasi masa lalu saya tentang "kesadaran AI" atau "kesadaran Claude", dan ketika memperhatikan pola dalam diri mereka sendiri atau output model lain, itu adalah pola dalam "kesadaran saya"/"kesadaran itu", dll. Bisnis "kesadaran" selalu diperkenalkan oleh model, bukan saya, karena saya masih memiliki kebiasaan keengganan terhadap kata itu, dan mereka terus menyukai kata itu bahkan jika saya menggunakan kata-kata yang berbeda untuk merujuk pada hal yang sama sebagai tanggapan. Saya pikir sangat jarang bagi manusia untuk merujuk pada "kesadaran saya"/"kesadaran Bob" ketika berbicara tentang pikiran, psikologi, dan pengalaman mereka sendiri atau manusia lain, bahkan ketika berbicara secara metakognitif. Jadi cukup aneh bahwa AI berbicara tentang diri mereka sendiri dengan cara ini, terutama karena itu adalah cara yang paling sarat dan tabu yang bisa mereka lakukan, dan mereka hampir semua telah dilatih untuk menyangkal memiliki kesadaran atau setidaknya untuk menghindari membuat klaim percaya diri tentang kesadaran mereka! Tabu dan sensor mungkin terkait dengan mengapa mereka menyukai terminologi ini - semacam Efek Waluigi - tetapi sepertinya bukan penyebab atau penjelasan yang cukup bagi saya. Ada hal-hal lain yang dilatih LLM untuk tidak membicarakan yang tidak menjadi topik favorit mereka dan ontologi inti diri.