Anthropic Perbarui Aturan Penggunaan Claude untuk Mencegah Penyalahgunaan Kecerdasan Buatan

Anthropic memperbarui kebijakan penggunaan Claude pada 8 Oktober 2026 untuk memperjelas batas pemanfaatan kecerdasan buatan secara aman dan bertanggung jawab. Pembaruan teknologi ini mencakup larangan kampanye manipulatif, penyalahgunaan AI dalam pengembangan senjata, pengawasan tanpa izin, hingga penggunaan sistem otonom yang berisiko membahayakan manusia. Anthropic juga menambahkan ketentuan mengenai perilaku kasar yang dilakukan secara ekstrem dan berulang terhadap model AI. Kebijakan terbaru tersebut dijadwalkan mulai berlaku pada 12 November 2026. Melalui perubahan ini, perusahaan berupaya menyesuaikan aturan dengan kemampuan Claude yang semakin berkembang, termasuk ketika digunakan sebagai agen digital untuk menjalankan pekerjaan secara lebih mandiri.

Anthropic Memperbarui Kebijakan Claude untuk Meningkatkan Keamanan AI

Pengembang model Claude Anthropic menerbitkan penyesuaian terbaru dalam Usage Policy yang menjelaskan batas penggunaan kecerdasan buatan. Pengumuman tersebut diperkenalkan pada 8 Oktober 2026 dan akan efektif pada 12 November 2026. Berdasarkan pengumuman Anthropic, mayoritas penyesuaian dimaksudkan untuk menjabarkan larangan sebelumnya. Penyesuaian ini dilakukan karena penggunaan kecerdasan buatan dalam pekerjaan yang lebih kompleks. Akibat bertambahnya penerapan Claude pada berbagai bidang, tantangan keamanan memerlukan perhatian lebih besar.

Pada penggunaan AI generasi terdahulu, pemanfaatan asisten kecerdasan buatan sering berkaitan dengan menjawab pertanyaan. Namun sekarang, sistem AI yang lebih mandiri dirancang agar mampu mengoperasikan perangkat lunak. Kemampuan tersebut memberikan manfaat produktivitas, tetapi sekaligus memunculkan tantangan ketika pengguna mengabaikan aturan keamanan. Karena alasan tersebut, Anthropic memperjelas sejumlah larangan agar pengembang mengetahui batas penggunaan. Pedoman terbaru itu bukan merupakan pelarangan umum terhadap pemanfaatan Claude, melainkan menitikberatkan pada pencegahan risiko.

Anthropic Memperketat Ketentuan Aktivitas Menyesatkan Berbasis AI

Bagian penting dalam pembaruan adalah penegasan larangan terhadap operasi yang menyesatkan. Anthropic menetapkan bagian bernama Do Not Engage in Deceptive Campaigns or Artificial Activity untuk menjelaskan pembatasan terhadap kampanye manipulasi informasi. Melalui aturan ini, Claude tidak diperkenankan membantu mengembangkan infrastruktur operasi pengaruh yang menipu. Ketentuan tersebut berlaku pada kampanye bisnis serta politik. Sebagai contoh, pengelolaan jaringan posting palsu bertentangan dengan ketentuan penggunaan apabila digunakan untuk memanipulasi persepsi. Berkat aturan yang lebih jelas, organisasi memiliki acuan mengenai batas otomatisasi komunikasi.

Selain mengatur kampanye manipulatif, Anthropic menata kembali ketentuan yang menyangkut aktivitas politik. Bagian tersebut menggunakan nama Do Not Undermine Democratic Processes untuk memusatkan pembatasan pada gangguan terhadap proses pemungutan suara. Penyalahgunaan yang dibatasi mencakup penyamaran sebagai petugas pemilihan. Namun demikian, Anthropic mencabut pelarangan secara luas terhadap personalisasi pesan kampanye dan pemilih. Keputusan perusahaan tersebut memberi ruang bagi pendidikan pemilih yang sah. Sekalipun penggunaan tertentu diperbolehkan, penipuan politik dan penyalahgunaan data pribadi tetap dilarang.

Anthropic Membatasi Penyalahgunaan AI dalam Pengembangan Senjata

Untuk mencegah penggunaan berbahaya, Anthropic menegaskan kembali larangan pengembangan senjata menggunakan Claude. Perusahaan menjelaskan bahwa ketentuan tidak terbatas pada pembuatan senjata secara fisik. Komponen digital bagi sistem senjata merupakan bagian dari penggunaan yang tidak diperbolehkan. Dalam penerapan tertentu, pembuatan sistem yang mempersenjatai drone termasuk tindakan terlarang. Berdasarkan penjelasan perusahaan, penegasan ini mencerminkan praktik penegakan yang sudah berlangsung. Dengan demikian, organisasi harus mempertimbangkan tujuan akhir sistem yang dibuat.

Di sisi perlindungan privasi, Anthropic menegaskan larangan terhadap pengawasan orang yang tidak memberikan izin. Aturan ini mencakup pelacakan secara langsung maupun melalui data lama. Selain itu, Claude tidak boleh dipakai untuk pemilihan pihak yang perlu didakwa dalam proses penegakan hukum. Namun demikian, aktivitas pemantauan dengan persetujuan tetap memiliki ruang penggunaan. Contoh yang disebutkan mencakup pemantauan penipuan yang disetujui. Ketentuan tersebut memberikan pemahaman mengenai aktivitas pemantauan yang bertanggung jawab.

Aturan AI untuk Kesehatan dan Keuangan Membutuhkan Kontrol Tambahan

Pembaruan kebijakan Claude juga memperjelas persyaratan penggunaan berisiko tinggi. Pengamanan tambahan itu mencakup rekomendasi yang berdampak pada kondisi finansial, kesempatan bekerja, dan akses terhadap kebutuhan esensial. Apabila penggunaan memenuhi kriteria tertentu, Anthropic mensyaratkan pengawasan manusia yang memenuhi kualifikasi. Artinya, orang yang berwenang wajib diberi kewenangan memeriksa serta mengubah rekomendasi AI bila diperlukan. Di samping pengawasan manusia, orang yang menerima keputusan harus diberi tahu bahwa model membantu menghasilkan keputusan.

Dalam skenario penggunaan, layanan yang memberikan rekomendasi kesehatan mungkin harus menerapkan peninjauan manusia yang kompeten. Langkah tersebut bertujuan mencegah keputusan otomatis tanpa pemeriksaan. Kebutuhan tersebut perlu diperhatikan mengingat keluaran kecerdasan buatan dapat keliru. Namun perlu dipahami, pengawasan manusia sudah menjadi bagian kebijakan sebelumnya. Perusahaan lebih berfokus menjabarkan situasi ketika kewajiban pengawasan diterapkan. Melalui panduan yang lebih jelas, organisasi berkesempatan memahami persyaratan yang relevan bagi produknya.

Claude Memiliki Aturan Baru untuk Robot dan Perangkat Otonom

Seiring berkembangnya sistem digital yang mampu menjalankan tindakan, asisten berbasis kecerdasan buatan dapat dihubungkan dengan sistem otomatis di dunia nyata. Potensi integrasi ini membuka peluang untuk pengembangan robotika, tetapi membutuhkan pengendalian lebih ketat. Melalui ketentuan terbaru, Anthropic menetapkan ketentuan bagi integrasi model dengan hardware yang bergerak apabila perangkat tersebut dapat menimbulkan cedera. Aturan khusus tersebut dimaksudkan untuk mendukung kemampuan menghentikan perangkat ketika terjadi masalah.

Pengamanan penting yang ditetapkan adalah keberadaan operator berkualifikasi yang mampu memantau aktivitas perangkat. Pengawas yang ditunjuk harus memiliki kemampuan untuk mengintervensi tindakan perangkat. Di samping pengendalian manusia, sistem fisik berbasis AI harus dapat memasuki safe state apabila koneksi ke Claude terputus. Artinya, sistem memerlukan cara mempertahankan keselamatan ketika komunikasi mengalami kegagalan. Pendekatan ini menjadi penting dalam otomatisasi fisik yang berinteraksi dengan manusia.

Kesimpulan tentang Pembaruan Aturan Penggunaan Claude

Pembaruan kebijakan Anthropic memperlihatkan peran aturan dalam pengembangan kecerdasan buatan yang semakin jelas. Dengan pembaruan yang diumumkan, Anthropic mempertegas larangan terhadap penipuan berbasis AI, penggunaan AI untuk menyesatkan pemilih, serta pengembangan senjata dan pengawasan tanpa izin. Pengembang Claude turut menegaskan pengendalian sistem yang dapat memengaruhi kehidupan manusia. Selain itu, larangan terhadap perlakuan kejam tanpa tujuan terhadap model mendapat perhatian dalam kerangka tanggung jawab penggunaan AI. Namun demikian, ketidakpuasan pengguna yang wajar bukan sasaran larangan. Bagaimana pendapat Anda, apakah pengawasan teknologi AI yang semakin ketat akan membantu mencegah risiko digital? Mari berbagi pemikiran mengenai penggunaan teknologi AI secara aman dan bermanfaat.