Anthropic Perbarui Aturan Penggunaan Claude untuk Mencegah Penyalahgunaan Kecerdasan Buatan

Anthropic memperbarui kebijakan penggunaan Claude pada 8 Oktober 2026 untuk memperjelas batas pemanfaatan kecerdasan buatan secara aman dan bertanggung jawab. Pembaruan teknologi ini mencakup larangan kampanye manipulatif, penyalahgunaan AI dalam pengembangan senjata, pengawasan tanpa izin, hingga penggunaan sistem otonom yang berisiko membahayakan manusia. Anthropic juga menambahkan ketentuan mengenai perilaku kasar yang dilakukan secara ekstrem dan berulang terhadap model AI. Kebijakan terbaru tersebut dijadwalkan mulai berlaku pada 12 November 2026. Melalui perubahan ini, perusahaan berupaya menyesuaikan aturan dengan kemampuan Claude yang semakin berkembang, termasuk ketika digunakan sebagai agen digital untuk menjalankan pekerjaan secara lebih mandiri.

Anthropic Memperbarui Kebijakan Claude untuk Meningkatkan Keamanan AI

Pengembang model Claude Anthropic menerbitkan pembaruan penting dalam Usage Policy yang mengatur penggunaan Claude. Pembaruan kebijakan ini dipublikasikan pada 8 Oktober 2026 dan dijadwalkan berlaku pada 12 November 2026. Mengacu pada informasi resmi pengembang, mayoritas penyesuaian dimaksudkan untuk menjabarkan larangan sebelumnya. Hal ini menjadi relevan seiring peningkatan fungsi agen AI. Seiring meningkatnya penerapan Claude pada berbagai bidang, potensi penyalahgunaan juga semakin beragam.

Ketika kemampuan model masih lebih terbatas, pemanfaatan asisten kecerdasan buatan lebih banyak digunakan untuk menyusun tulisan. Namun sekarang, agen kecerdasan buatan dapat digunakan untuk mengoperasikan perangkat lunak. Kemampuan tersebut memberikan manfaat produktivitas, tetapi juga menciptakan risiko ketika agen AI memperoleh akses yang tidak sesuai. Dengan mempertimbangkan perubahan kemampuan model, Anthropic menyusun penjelasan yang lebih rinci agar pengguna memahami tanggung jawabnya. Kebijakan tersebut tidak berarti seluruh aktivitas AI baru dilarang, melainkan membedakan penggunaan bermanfaat dari penyalahgunaan.

Larangan Kampanye Manipulatif Menjadi Fokus Aturan Claude

Bagian penting dalam pembaruan adalah penggabungan aturan mengenai aktivitas menipu. Anthropic menambahkan bagian bernama Do Not Engage in Deceptive Campaigns or Artificial Activity untuk mengatur larangan terhadap aktivitas digital yang menyembunyikan identitas pengirim. Berdasarkan penjelasan perusahaan, Claude tidak diperkenankan membantu menjalankan kampanye manipulatif. Larangan tersebut mencakup berbagai kepentingan yang menggunakan penipuan. Untuk memberikan gambaran, pengelolaan jaringan posting palsu dapat termasuk aktivitas terlarang apabila dimaksudkan menyembunyikan pelaku sebenarnya. Dengan demikian, organisasi memiliki acuan mengenai larangan manipulasi menggunakan kecerdasan buatan.

Di samping memperjelas aktivitas menipu, Anthropic juga memperbarui ketentuan yang mengatur proses demokrasi. Ketentuan khusus ini menggunakan nama Do Not Undermine Democratic Processes untuk memusatkan pembatasan pada gangguan terhadap proses pemungutan suara. Aktivitas yang tidak diperbolehkan mencakup upaya menyesatkan warga mengenai cara memilih. Di sisi lain, Anthropic tidak lagi menerapkan pembatasan umum terhadap personalisasi pesan kampanye dan pemilih. Keputusan perusahaan tersebut dimaksudkan agar komunikasi kewargaan yang tidak menipu. Walaupun demikian, manipulasi pemilih masih tidak diperbolehkan.

Anthropic Membatasi Penyalahgunaan AI dalam Pengembangan Senjata

Pada pembahasan risiko keselamatan, Anthropic memperinci larangan penggunaan model dalam pembuatan teknologi senjata. Perusahaan menjelaskan bahwa larangan juga berlaku pada komponen pendukung persenjataan. Perangkat lunak pengendali tetap berada dalam cakupan pembatasan. Sebagai ilustrasi, pembuatan sistem yang mempersenjatai drone bertentangan dengan aturan. Menurut Anthropic, penegasan ini mencerminkan praktik penegakan yang sudah berlangsung. Dengan demikian, pengembang perlu mengevaluasi risiko penerapan AI dalam perangkat berbahaya.

Di sisi perlindungan privasi, Anthropic menyusun ketentuan lebih rinci terhadap pemantauan identitas secara tidak sah. Larangan tersebut mencakup pelacakan secara langsung maupun melalui data lama. Tidak hanya terkait pelacakan, Claude tidak diperkenankan menjalankan rekomendasi penangkapan individu dalam proses penegakan hukum. Namun demikian, pengawasan yang memiliki dasar izin sah masih dapat diperbolehkan. Penggunaan yang dapat diterima mencakup moderasi konten. Ketentuan tersebut bertujuan membedakan penyalahgunaan yang melanggar privasi.

Aturan AI untuk Kesehatan dan Keuangan Membutuhkan Kontrol Tambahan

Penyesuaian aturan Anthropic juga memperjelas persyaratan penggunaan berisiko tinggi. Pengamanan tambahan itu mencakup rekomendasi yang berdampak pada kondisi finansial, akses terhadap pekerjaan, dan fasilitas dasar yang dibutuhkan masyarakat. Apabila penggunaan memenuhi kriteria tertentu, Anthropic menetapkan kebutuhan keterlibatan peninjau manusia yang kompeten. Dengan ketentuan tersebut, orang yang berwenang wajib diberi kewenangan memeriksa serta mengoreksi keputusan yang diusulkan model. Sebagai bentuk transparansi, pihak yang dipengaruhi oleh penggunaan AI wajib mendapatkan informasi bahwa rekomendasi melibatkan kecerdasan buatan.

Dalam skenario penggunaan, layanan yang memberikan rekomendasi kesehatan mungkin harus menerapkan peninjauan manusia yang kompeten. Pengawasan ini dimaksudkan memberikan kesempatan untuk memperbaiki kesalahan model. Kebutuhan tersebut menjadi penting karena rekomendasi AI masih memiliki keterbatasan. Namun perlu dipahami, persyaratan tersebut bukan aturan baru sepenuhnya. Anthropic terutama memperjelas jenis penggunaan yang termasuk kategori berisiko tinggi. Melalui panduan yang lebih jelas, organisasi berkesempatan memahami langkah keamanan sebelum menggunakan Claude secara luas.

Claude Memiliki Aturan Baru untuk Robot dan Perangkat Otonom

Seiring berkembangnya teknologi agen AI, perangkat lunak AI modern memungkinkan penggunaan bersama mesin yang menjalankan tindakan fisik. Potensi integrasi ini memberikan kesempatan untuk pengembangan robotika, tetapi memerlukan perlindungan tambahan. Dalam pembaruan kebijakan, Anthropic memperjelas standar bagi sistem AI yang menjalankan tindakan fisik apabila aktivitasnya berpotensi membahayakan manusia. Persyaratan ini dimaksudkan untuk mendukung pengawasan manusia ketika terjadi masalah.

Pengamanan penting yang ditetapkan adalah keterlibatan manusia dengan kewenangan operasional yang dapat mengamati operasi sistem otonom. Pengawas yang ditunjuk perlu diberi kewenangan untuk membatalkan operasi berbahaya. Selain itu, perangkat keras yang terhubung harus dapat memasuki kondisi operasi yang tidak berbahaya apabila koneksi ke Claude terputus. Artinya, sistem memerlukan cara mempertahankan keselamatan ketika model tidak dapat memberikan instruksi. Prinsip tersebut memiliki nilai keselamatan tinggi dalam otomatisasi fisik yang menjalankan tugas dengan konsekuensi fisik.

Masa Depan Penggunaan Claude yang Aman dan Bertanggung Jawab

Perubahan Usage Policy Claude memperlihatkan pentingnya tata kelola AI yang mampu mengikuti perkembangan kemampuan model. Berkat penjelasan kebijakan 2026, Anthropic menyempurnakan aturan terhadap kampanye manipulatif, gangguan terhadap proses demokrasi, serta pengembangan senjata dan pengawasan tanpa izin. Perusahaan juga menjelaskan kembali pengendalian sistem yang dapat memengaruhi kehidupan manusia. Selain itu, larangan terhadap perlakuan kejam tanpa tujuan terhadap model mendapat perhatian dalam pengelolaan penggunaan Claude. Namun demikian, ketidakpuasan pengguna yang wajar bukan sasaran larangan. Bagaimana pendapat Anda, apakah aturan penggunaan AI yang lebih jelas akan mendorong pengembangan sistem yang lebih bertanggung jawab? Silakan bagikan pendapat Anda mengenai perkembangan kebijakan Anthropic.