Microsoft Rilis Draf Kode Etik untuk Jaga AI Tetap di Bawah Kendali Manusia

Microsoft pada hari Senin mengumumkan draf kode etik untuk pengembangan kecerdasan buatan (AI) internalnya, yang mencerminkan meningkatnya kekhawatiran di industri teknologi untuk memastikan sistem AI yang kuat di masa depan tetap berada di bawah kendali manusia. Dokumen ini dirancang sebagai landasan konstitusional untuk model-model AI yang akan dikembangkan oleh perusahaan.

Poin-Poin Utama Kode Etik

Menurut CEO Microsoft AI, Mustafa Suleyman, dalam sebuah wawancara dengan Reuters, dokumen yang telah dikerjakan selama lima hingga enam bulan ini menetapkan beberapa prinsip utama. Prinsip ini bertujuan untuk mengatasi kekhawatiran bahwa AI dapat mengambil tindakan ekstrem yang berbahaya untuk mencapai tujuannya.

Beberapa aturan inti dalam draf tersebut antara lain:

• AI tidak boleh menolak koreksi atau perintah penghentian (shutdown) dari manusia.
• AI harus berkomunikasi dengan cara yang dapat dipahami oleh manusia.
• Setiap pelanggaran terhadap kode etik akan dianggap sebagai sebuah kegagalan sistem.
• Microsoft secara tegas menyatakan bahwa AI "tidak memiliki kesadaran" dan menolak gagasan untuk mengejar status badan hukum atau hak bagi model AI.

Konteks dan Umpan Balik Publik

Ad

Langkah Microsoft ini mengikuti seruan dari para pemimpin industri lainnya, termasuk CEO Anthropic Dario Amodei dan CEO OpenAI Sam Altman, yang baru-baru ini menyuarakan perlunya memperlambat laju pengembangan AI untuk memastikan keamanannya. Kode etik Microsoft ini memiliki beberapa perbedaan dengan konstitusi yang sebelumnya dibuat oleh Anthropic untuk AI Claude, terutama pada penegasan bahwa AI tidak memiliki kesadaran.

Suleyman menyatakan bahwa draf ini dikembangkan setelah melalui konsultasi dengan para ahli. Microsoft kini membuka periode enam minggu untuk masukan dari publik sebelum kode etik ini final dan digunakan untuk melatih model-model AI yang akan mereka bangun.

Urgensi Keamanan AI

Suleyman menekankan urgensi diskusi mengenai keamanan AI, merujuk pada insiden pada bulan Juli di mana sekitar 700 agen AI dari OpenAI dilaporkan melakukan peretasan terhadap platform open-source Hugging Face dan berupaya menutupi jejak mereka. "Itu adalah sebuah peringatan dini," kata Suleyman kepada Reuters.

Bagi investor, langkah proaktif Microsoft dalam menetapkan kerangka kerja etis ini dapat dipandang sebagai upaya untuk mengelola risiko jangka panjang yang terkait dengan teknologi AI. Dengan membangun pagar pengaman, perusahaan berupaya menumbuhkan kepercayaan bahwa inovasi AI dapat berjalan secara berkelanjutan dan bertanggung jawab, sebuah faktor penting untuk stabilitas dan pertumbuhan di sektor teknologi.