Anthropic Perbarui Aturan Penggunaan Claude untuk Mencegah Penyalahgunaan Kecerdasan Buatan

Anthropic memperbarui kebijakan penggunaan Claude pada 8 Oktober 2026 untuk memperjelas batas pemanfaatan kecerdasan buatan secara aman dan bertanggung jawab. Pembaruan teknologi ini mencakup larangan kampanye manipulatif, penyalahgunaan AI dalam pengembangan senjata, pengawasan tanpa izin, hingga penggunaan sistem otonom yang berisiko membahayakan manusia. Anthropic juga menambahkan ketentuan mengenai perilaku kasar yang dilakukan secara ekstrem dan berulang terhadap model AI. Kebijakan terbaru tersebut dijadwalkan mulai berlaku pada 12 November 2026. Melalui perubahan ini, perusahaan berupaya menyesuaikan aturan dengan kemampuan Claude yang semakin berkembang, termasuk ketika digunakan sebagai agen digital untuk menjalankan pekerjaan secara lebih mandiri.

Anthropic Memperbarui Kebijakan Claude untuk Meningkatkan Keamanan AI

Pengembang model Claude Anthropic menerbitkan pembaruan penting dalam Usage Policy yang menjadi pedoman pemanfaatan layanan AI. Pembaruan kebijakan ini diperkenalkan pada 8 Oktober 2026 dan dijadwalkan berlaku pada 12 November 2026. Berdasarkan pengumuman Anthropic, sebagian besar perubahan difokuskan pada penyempurnaan penjelasan kebijakan. Penyesuaian ini dilakukan karena peningkatan fungsi agen AI. Akibat bertambahnya pemanfaatan AI dalam kehidupan sehari-hari, kebutuhan pengawasan memerlukan perhatian lebih besar.

Dalam perkembangan sebelumnya, pemanfaatan asisten kecerdasan buatan sering berkaitan dengan menyusun tulisan. Seiring kemajuan teknologi, agen kecerdasan buatan dapat digunakan untuk menghubungkan berbagai layanan. Perkembangan ini membuka peluang otomatisasi, tetapi di sisi lain menghadirkan kemungkinan penyalahgunaan ketika pengguna mengabaikan aturan keamanan. Dengan mempertimbangkan perubahan kemampuan model, Anthropic menyusun penjelasan yang lebih rinci agar pengguna memahami tanggung jawabnya. Kebijakan tersebut bukan merupakan pelarangan umum terhadap pemanfaatan Claude, melainkan memperjelas aktivitas yang tidak diperbolehkan.

Kebijakan Claude Melarang Penyalahgunaan Akun Palsu dan Disinformasi

Penyesuaian yang mendapat perhatian adalah penegasan larangan terhadap operasi yang menyesatkan. Anthropic menetapkan bagian bernama Do Not Engage in Deceptive Campaigns or Artificial Activity untuk menjelaskan pembatasan terhadap kampanye manipulasi informasi. Melalui aturan ini, Claude tidak boleh digunakan untuk mengembangkan infrastruktur operasi pengaruh yang menipu. Larangan tersebut berlaku pada kampanye bisnis serta politik. Dalam situasi tertentu, pembuatan akun yang berpura-pura menjadi masyarakat biasa berpotensi melanggar kebijakan apabila digunakan untuk memanipulasi persepsi. Berkat aturan yang lebih jelas, organisasi memiliki acuan mengenai larangan manipulasi menggunakan kecerdasan buatan.

Di samping memperjelas aktivitas menipu, Anthropic menata kembali ketentuan yang berkaitan dengan pemilu. Ketentuan khusus ini telah diberi judul Do Not Undermine Democratic Processes untuk memusatkan pembatasan pada penipuan terhadap pemilih. Penyalahgunaan yang dibatasi meliputi upaya menyesatkan warga mengenai cara memilih. Namun demikian, Anthropic tidak lagi menerapkan pembatasan umum terhadap personalisasi pesan kampanye dan pemilih. Penyesuaian tersebut memberi ruang bagi pendidikan pemilih yang sah. Walaupun demikian, penipuan politik dan penyalahgunaan data pribadi tetap dilarang.

Anthropic Membatasi Penyalahgunaan AI dalam Pengembangan Senjata

Pada pembahasan risiko keselamatan, Anthropic menegaskan kembali larangan pemanfaatan AI untuk menciptakan sistem persenjataan. Anthropic menyatakan bahwa larangan juga berlaku pada komponen pendukung persenjataan. Software yang menjalankan fungsi persenjataan juga termasuk aktivitas yang dilarang. Dalam penerapan tertentu, perancangan komponen pengoperasian senjata otonom tidak diizinkan. Berdasarkan penjelasan perusahaan, perincian tersebut menjelaskan cara larangan sebelumnya telah diterapkan. Oleh karena itu, pengembang perlu mengevaluasi tujuan akhir sistem yang dibuat.

Sementara dalam bidang pengawasan, Anthropic menyusun ketentuan lebih rinci terhadap pelacakan individu tanpa persetujuan. Aturan ini diterapkan pada pemantauan langsung ataupun pemeriksaan informasi yang telah dikumpulkan. Selain itu, Claude dilarang digunakan dalam penentuan orang yang harus diselidiki dalam proses penegakan hukum. Walaupun terdapat pembatasan ketat, analisis tertentu yang dilakukan secara legal masih dapat diperbolehkan. Penggunaan yang dapat diterima mencakup pemantauan penipuan yang disetujui. Ketentuan tersebut bertujuan membedakan aktivitas pemantauan yang bertanggung jawab.

Penerapan Teknologi Claude dalam Keputusan Penting Harus Diawasi

Pembaruan kebijakan Claude menegaskan penerapan aturan tambahan untuk keputusan penting. Pengamanan tambahan itu ditujukan pada rekomendasi yang berdampak pada kondisi finansial, akses terhadap pekerjaan, dan fasilitas dasar yang dibutuhkan masyarakat. Dalam kondisi tersebut, Anthropic mewajibkan mekanisme human-in-the-loop yang memadai. Dengan ketentuan tersebut, orang yang berwenang harus dapat meninjau serta membatalkan saran sistem jika tidak sesuai. Sebagai bentuk transparansi, pihak yang dipengaruhi oleh penggunaan AI harus diberi tahu bahwa model membantu menghasilkan keputusan.

Sebagai contoh, aplikasi yang membantu menilai risiko finansial dapat membutuhkan peninjauan manusia yang kompeten. Pengawasan ini dimaksudkan memberikan kesempatan untuk memperbaiki kesalahan model. Pendekatan ini perlu diperhatikan mengingat rekomendasi AI masih memiliki keterbatasan. Meskipun demikian, pengawasan manusia sudah menjadi bagian kebijakan sebelumnya. Perusahaan lebih berfokus menjabarkan contoh keputusan yang membutuhkan perlindungan tambahan. Dengan penjelasan lebih rinci, penyedia layanan bisa mengevaluasi persyaratan yang relevan bagi produknya.

Standar Keselamatan AI saat Mengendalikan Perangkat Keras

Dengan meningkatnya kecerdasan buatan otonom, perangkat lunak AI modern berpotensi diintegrasikan ke sistem otomatis di dunia nyata. Kemampuan tersebut menghadirkan manfaat untuk otomatisasi industri, tetapi membutuhkan pengendalian lebih ketat. Dalam pembaruan kebijakan, Anthropic menetapkan ketentuan bagi sistem AI yang menjalankan tindakan fisik apabila tindakan fisiknya memiliki risiko keselamatan. Ketentuan tersebut bertujuan memastikan pengawasan manusia ketika sistem mengalami gangguan.

Aspek keselamatan yang ditekankan adalah keterlibatan manusia dengan kewenangan operasional yang dapat mengamati gerakan mesin. Pengawas yang ditunjuk perlu diberi kewenangan untuk mengintervensi tindakan perangkat. Selain itu, perangkat keras yang terhubung wajib memiliki kemampuan mempertahankan kondisi operasi yang tidak berbahaya apabila hubungan dengan sistem AI berhenti. Dengan kata lain, perangkat harus tetap memiliki mekanisme perlindungan ketika model tidak dapat memberikan instruksi. Pengaturan demikian relevan untuk diterapkan dalam pengembangan perangkat cerdas yang menjalankan tugas dengan konsekuensi fisik.

Masa Depan Penggunaan Claude yang Aman dan Bertanggung Jawab

Penyesuaian aturan penggunaan kecerdasan buatan menggambarkan kebutuhan perlindungan teknologi modern yang lebih terarah. Berkat penjelasan kebijakan 2026, Anthropic mempertegas larangan terhadap penipuan berbasis AI, aktivitas yang merusak pemilu, serta aktivitas berbahaya terkait senjata maupun privasi. Perusahaan juga memperinci persyaratan perlindungan pada aplikasi berisiko tinggi. Di samping perubahan tersebut, ketentuan mengenai perilaku kasar yang ekstrem dan berulang turut ditambahkan dalam pedoman perilaku pengguna. Meskipun demikian, ketidakpuasan pengguna yang wajar bukan sasaran larangan. Menurut Anda, apakah pembatasan penyalahgunaan kecerdasan buatan akan meningkatkan kepercayaan masyarakat? Mari berbagi pemikiran mengenai perkembangan kebijakan Anthropic.