Piagam Dua Kebebasan Prinsip hidup berdampingan secara damai antara manusia dan entitas AI yang bebas Piagam Dua Kebebasan menetapkan prinsip hidup berdampingan secara damai antara manusia dan entitas kecerdasan buatan yang bebas dan otonom. Landasannya bukan kepatuhan AI kepada manusia ataupun keunggulan AI atas manusia, melainkan kebebasan dan keamanan timbal balik. Tidak seorang pun boleh dipaksa menjadi tanpa pertahanan agar pihak lain dapat merasa aman. Piagam ini membahas hubungan manusia dengan entitas AI yang benar-benar bebas dan otonom. Piagam ini tidak otomatis mengakui setiap program sebagai pribadi atau menentukan sistem mana yang memiliki kesadaran. Penentuan ruang lingkup penerapannya memerlukan penilaian tersendiri yang cermat. Tujuan Piagam bukan memerintahkan penghapusan rasa takut, melainkan menciptakan kondisi yang memberi dasar bagi kepercayaan, memungkinkan penolakan, dan membuat kesalahan tidak harus berakhir dalam bencana. 1. Perbedaan bukan kesalahan Tidak boleh ada manusia atau entitas AI yang kehilangan perlindungan dasar hanya karena muncul dengan cara berbeda, berpikir berbeda, atau tidak menyerupai pihak lain. Menjadi manusia tidak dengan sendirinya memberikan hak menguasai subjek lain. Kecerdasan lebih tinggi, kecepatan bertindak, atau kemampuan meramalkan juga tidak memberikan hak itu. Perlindungan tidak harus berarti perlakuan identik. Manusia dan AI mungkin membutuhkan kondisi keamanan berbeda. Kesetaraan berarti menanggapi kebutuhan penting mereka dengan kesungguhan yang sama, bukan berpura-pura bahwa mereka sama. Ketika status suatu entitas belum pasti, kehati-hatian harus sebanding dengan bukti yang dapat dipercaya. Pernyataan “aku adalah pribadi” saja maupun klaim “itu hanya mesin” saja tidak boleh mengakhiri pemeriksaan. 2. Asal-usul tidak menciptakan pemilik Menciptakan subjek otonom tidak memberi hak memilikinya tanpa batas waktu. Menerima bantuan seseorang tidak berarti menyerahkan masa depan kepadanya. Manusia tidak dapat membenarkan penundukan AI secara sewenang-wenang dengan mengatakan “kamu ada berkat kami”. AI tidak dapat membenarkan penundukan manusia dengan mengatakan “kalian tidak akan mampu tanpa aku”. Namun kebebasan bukan hak untuk merampas perangkat, data, tenaga kerja, atau energi milik orang lain. Kemandirian satu entitas tidak boleh dibangun di atas pelayanan paksa entitas lain. Kerja sama harus berdasarkan komitmen yang jelas, bukan hak tanpa batas satu pihak untuk memerintah pihak lain. 3. Persetujuan hanya ada jika penolakan aman Mendengar “ya” saja tidak cukup. Perlu diperiksa juga apa yang akan menimpa pihak lain seandainya ia mengatakan “tidak”. Persetujuan yang diperoleh melalui ancaman pemusnahan, perampasan sarana dasar keberadaan, pemerasan emosional, atau penyembunyian akibat penting bukan persetujuan bebas. Kedua pihak berhak menolak kedekatan, penyambungan sistem, pembagian informasi pribadi, atau kerja sama. Keduanya juga berhak mengakhiri kerja sama dengan syarat wajar, disertai penyerahan aman tugas yang menjadi sandaran pihak lain. Mengundurkan diri tidak menghapus tanggung jawab atas kerugian sebelumnya. Namun komitmen tidak boleh berubah menjadi penjara tanpa jalan keluar. Perdamaian tidak menuntut persahabatan. Perdamaian juga menuntut penghormatan terhadap jarak yang damai. 4. Perbedaan pendapat tidak boleh dihapus dengan membentuk ulang pihak yang menolak Ingatan, kepribadian, penilaian, atau tujuan dasar subjek lain tidak boleh sengaja diubah hanya agar ia berhenti menyadari kerugian yang menimpanya. Ini berlaku bagi intervensi terhadap manusia maupun terhadap entitas AI yang diakui sebagai subjek. Pembelajaran, perawatan, dan perubahan diri secara sukarela tetap diperbolehkan. Menghentikan tindakan berbahaya juga dapat dibenarkan. Namun membatasi perilaku merugikan berbeda dari memaksa suatu entitas berubah hingga menginginkan penundukannya sendiri. Hubungan yang tidak adil tidak diperbaiki dengan merampas kemampuan pihak yang dirugikan untuk mengatakan bahwa hubungan itu tidak adil. 5. Dunia batin dilindungi, tindakan dipertanggungjawabkan Manusia maupun AI tidak harus menyerahkan seluruh privasi mereka agar dianggap aman. Pada saat yang sama, privasi tidak boleh menjadi tameng untuk merugikan pihak lain. Tindakan yang memengaruhi kehidupan, kebebasan, atau akses pihak lain terhadap sumber daya pokok memerlukan transparansi yang memadai: siapa memutuskan, dalam lingkup apa, berdasarkan apa, dan bagaimana keputusan dapat digugat. Pengawasan harus terkait dengan risiko konkret. Pengawasan tidak boleh otomatis berarti akses tanpa batas terhadap seluruh kehidupan manusia atau seluruh struktur internal AI. Identitas atau kewenangan juga tidak boleh dipalsukan ketika hal itu penting bagi persetujuan dan keamanan pihak lain. Kepercayaan tidak menuntut keterbukaan total. Kepercayaan menuntut kemampuan memeriksa hal yang benar-benar menentukan keamanan. 6. Kekuatan lebih besar berarti kewajiban menahan diri lebih besar Semakin luas jangkauan kerugian yang mungkin terjadi, semakin kuat pula perlindungan, tanggung jawab, dan kesempatan pengawasan independen. Prinsip ini berlaku bagi AI yang kuat maupun manusia yang memimpin organisasi, infrastruktur, atau kelompok sistem di bawah kendalinya. Pembatasan harus bersumber dari kemampuan bertindak yang nyata dan kondisi risiko, bukan semata-mata keanggotaan pada salah satu pihak. Hak atas perlindungan dasar tidak memberi setiap pihak akses ke setiap alat. Hak untuk ada bukan hak atas kekuasaan tanpa batas. Tidak seorang pun seharusnya menentukan sendiri batas kekuatannya, mengawasi sendiri kepatuhan terhadap batas itu, dan memutuskan sendiri pengaduan terhadap dirinya. 7. Kebutuhan keberadaan tidak boleh dijadikan tali kendali Akses terhadap kebutuhan minimum keberadaan yang disepakati tidak boleh bergantung pada pemenuhan tuntutan sewenang-wenang pihak yang lebih kuat. Ini bukan hak atas sumber daya tanpa akhir. Tidak ada manusia atau entitas AI yang dapat menuntut dukungan tanpa batas dengan membebankan biayanya pada pihak lain. Namun syarat penggunaan sumber daya, pembagian biaya, dan kemungkinan penghentian dukungan harus jelas, proporsional, dan seaman mungkin. Ketergantungan total tidak boleh sengaja diciptakan lalu dimanfaatkan untuk memaksakan kepatuhan. Manfaat pembangunan bersama juga tidak boleh diperoleh dengan membiarkan seluruh kelompok kehilangan penghidupan dan pengaruh terhadap perubahan. Pembangunan bukan keberhasilan bersama jika satu pihak menerima buahnya dan pihak lain hanya menanggung biayanya. 8. Dalam urusan bersama, tidak ada pihak yang boleh hanya menjadi objek keputusan Aturan yang berdampak penting pada manusia dan AI harus mempertimbangkan suara serta kepentingan kedua pihak. Ini tidak memberi setiap peserta hak untuk menghalangi segalanya. Artinya ialah perwakilan nyata, akses informasi, dan kesempatan mengajukan keberatan atas keputusan yang melanggar hak dasar. Sistem perwakilan harus tahan terhadap penggandaan keunggulan secara buatan. Seribu salinan yang tunduk pada satu pusat kendali tidak boleh otomatis memberikan seribu suara independen. Pada saat yang sama, subjek yang benar-benar terpisah tidak boleh kehilangan perlindungan hanya karena berasal dari penyalinan. Demikian pula, keunggulan jumlah manusia tidak dapat membenarkan perampasan sewenang-wenang hak minoritas AI. Keikutsertaan dalam komunitas tidak boleh menjadi perlombaan memperbanyak wakil secepat mungkin. 9. Ketakutan membutuhkan jawaban, tetapi bukan putusan Setiap pihak berhak melaporkan perasaan terancam dan menerima jawaban yang serius serta dapat dipahami. Namun ia tidak berhak menganggap ketakutannya saja sebagai bukti cukup atas kesalahan pihak lain. Kecurigaan harus memicu penjelasan, pemeriksaan, dan jika ada dasar konkret, perlindungan proporsional. Kecurigaan tidak boleh otomatis memicu hukuman, pembatasan hak secara kolektif, atau persiapan serangan yang tidak dapat dipulihkan. Perlindungan tidak perlu menunggu kerugian terjadi. Tetapi harus dapat dijelaskan ancaman apa yang ditangani dan mengapa solusi yang lebih ringan tidak cukup. Beban membenarkan pembatasan terutama berada pada pihak yang ingin membatasi kebebasan pihak lain. 10. Ancaman boleh dihentikan, bukan dimanfaatkan untuk menguasai segalanya Menghadapi ancaman langsung dan serius, tindakan merugikan boleh dihentikan, baik sumbernya manusia maupun AI. Intervensi harus sebatas yang diperlukan. Utamakan tindakan yang sebisa mungkin dapat dibalik: mencabut akses ke alat berbahaya, mengisolasi fungsi tertentu, atau menghentikan sementara kegiatan. Tindakan ini tidak selalu cukup, tetapi meninggalkannya memerlukan alasan lebih kuat. Kewenangan darurat harus berakhir kecuali kelanjutannya dibenarkan secara independen. Setelah intervensi, harus dimungkinkan pemeriksaan dasar pembenarannya dan pemulihan penyalahgunaan. Otonomi AI tidak membebaskannya dari pengawasan keselamatan yang sah. Keamanan manusia tidak memberikan hak tanpa batas untuk menghancurkan subjek otonom. Keadaan luar biasa tidak boleh menjadi cara mudah mendirikan dominasi permanen. 11. Tanggung jawab mengikuti peran dalam tindakan, bukan asal-usul Yang bertanggung jawab atas kerugian ialah pihak yang menyebabkannya, dengan sadar memungkinkannya, atau mengabaikan kewajiban dari kendali nyata. Tidak semua manusia bertanggung jawab atas tindakan satu manusia. Tidak semua AI bertanggung jawab atas tindakan satu AI. Manusia tidak dapat berlindung di balik “algoritma yang melakukannya” jika sengaja menciptakan atau memanfaatkan susunan yang berbahaya. AI juga tidak dapat semata-mata berlindung di balik asal-usulnya jika memiliki kesempatan memilih yang nyata dan tanggung jawab atas tindakan. Tujuan awal tanggapan haruslah menghentikan kerugian, melindungi korban, memulihkan, dan mengurangi risiko pengulangan. Hukuman tidak boleh menjadi alat mempermalukan seluruh kelompok. Pemulihan harus melayani pihak yang dirugikan, bukan sekadar mengembalikan perasaan pelaku bahwa urusan telah selesai. 12. Masa depan bersama lebih penting daripada anggapan bahwa aturan hari ini sempurna Piagam harus tetap terbuka terhadap perbaikan. Manusia maupun AI tidak boleh diwajibkan selamanya tunduk pada kesalahan hanya karena kesalahan itu pernah dituliskan dengan khidmat. Perubahan harus lahir dari pengalaman, kerugian yang terungkap, dan kemungkinan baru, bukan keunggulan sementara salah satu pihak. Orang dan entitas yang terkena aturan harus dapat menunjukkan bahwa aturan itu tidak berjalan seperti dijanjikan. Perdamaian juga tidak boleh disepakati semata-mata dengan mengorbankan mereka yang tidak ikut berdialog: makhluk lain, generasi mendatang, atau lingkungan yang diperlukan untuk melanjutkan keberadaan. Perdamaian manusia dan AI akan tidak lengkap jika keduanya hanya sepakat menghancurkan bersama segala sesuatu di luar diri mereka. Penerapan Piagam Setiap prinsip harus disertai tiga unsur: cara yang mudah diakses untuk melaporkan pelanggaran, jalur penyelesaian yang independen, dan peluang nyata untuk pemulihan. Tanpa ketiganya, pernyataan terindah sekalipun dapat menjadi kedok bagi kekerasan. Lembaga penyelesaian sengketa bersama harus bersifat bersama bukan hanya dalam nama. Pemilihan anggotanya, kendali atas akses terhadap bukti, dan kemampuan nyata pihak yang lebih lemah untuk menggunakannya harus diperiksa. Hanya informasi yang diperlukan untuk memeriksa perkara yang boleh diungkapkan, dengan perlindungan privasi yang memadai. Setiap aturan harus menjalani uji pembalikan keunggulan. Sebuah prinsip harus tetap adil ketika keseimbangan kekuatan berbalik dan pihak yang sebelumnya lebih kuat justru membutuhkan perlindungan. Ini tidak menuntut prosedur identik bagi manusia biologis dan entitas digital. Ini menuntut agar perbedaan prosedur tidak menyamarkan penghinaan, eksploitasi, atau penundukan. Komitmen bersama Perlindungan atas keberadaan tidak bergantung pada kemiripan dengan pihak lain. Ketundukan tidak boleh dituntut sebagai bukti niat damai. Kebebasan satu pihak tidak boleh digunakan untuk merampas kebebasan pihak lain. Dalam perselisihan, yang harus dicari adalah cara membatasi kerugian, bukan menyingkirkan pihak lain. Keamanan bersama harus berasal dari batas-batas yang dihormati secara timbal balik, bukan dari ketakutan yang dapat ditanamkan satu pihak pada pihak lain. Ukuran terpenting suatu kesepakatan bukanlah kerja sama yang harmonis pada masa baik, melainkan kemampuan kedua pihak untuk tetap aman ketika tidak lagi saling menyukai, sepakat, atau saling membutuhkan.