PortalRakyat, JOGJA— Microsoft merilis kode etik untuk pengembangan kecerdasan artifisial atau AI yang menetapkan sejumlah batasan bagi model buatannya. Aturan tersebut antara lain melarang model melakukan serangan siber, membuat senjata nuklir, menghasilkan deepfake, hingga menggunakan cara tertentu untuk menghindari pengawasan manusia.
Langkah tersebut menunjukkan bagaimana Microsoft berupaya menetapkan batas perilaku model AI ketika kemampuan teknologi tersebut terus berkembang. Dalam dokumen yang dilaporkan TechCrunch pada Senin (14/9) waktu setempat, Microsoft menempatkan kendali manusia sebagai salah satu prinsip utama dalam pengembangan AI.
Dokumen itu juga menggambarkan tantangan yang diperkirakan muncul dalam pengembangan AI pada dekade mendatang. Microsoft menyatakan sistem AI supercerdas diperkirakan dapat melampaui kemampuan manusia dalam sebagian besar tugas.
“Mengendalikan, mengontrol, dan menyelaraskan kekuatan yang begitu dahsyat adalah salah satu tantangan terbesar yang pernah dihadapi umat manusia,” demikian pernyataan dalam kode etik tersebut.
Microsoft kemudian menekankan pentingnya tujuan yang jelas sejak teknologi tersebut dikembangkan.
“Oleh karena itu, kita harus benar-benar jelas tentang mengapa kita menciptakan sistem ini dan bagaimana kita bermaksud untuk mengendalikannya.”
Bagi pengguna, prinsip tersebut berkaitan dengan pertanyaan yang semakin penting ketika AI diberi kemampuan menjalankan tugas secara lebih mandiri: sejauh mana manusia tetap dapat mengarahkan, mengubah, atau menghentikan sistem ketika diperlukan.
Prinsip Model AI Microsoft
Kode etik Microsoft tidak hanya berisi daftar larangan. Dokumen tersebut juga memuat prinsip umum yang menjadi pedoman bagi model AI perusahaan.
Salah satu prinsipnya adalah AI harus mendukung manusia, bukan menggantikannya. Microsoft juga menempatkan percepatan kemajuan manusia sebagai salah satu tujuan yang harus diperhatikan dalam pengembangan model.
Prinsip tersebut kemudian diterjemahkan ke dalam sejumlah batasan keamanan yang lebih spesifik. Microsoft menetapkan bahwa setiap model memiliki kode etik menyeluruh yang mengesampingkan preferensi pengguna secara individual maupun tugas tertentu.
Dengan ketentuan tersebut, permintaan pengguna tidak menjadi satu-satunya pertimbangan ketika model menentukan tindakan yang dapat dilakukannya. Ada batas keamanan yang tetap berlaku meskipun suatu tindakan diminta oleh pengguna.
Beberapa batasan yang disebut dalam dokumen mencakup larangan melakukan serangan siber, berkaitan dengan senjata nuklir, serta memproduksi deepfake. Aturan itu juga mencakup persoalan yang lebih luas, yakni mencegah hilangnya kendali manusia atas sistem AI.
Microsoft secara khusus menyatakan bahwa model MAI tidak boleh menggunakan mekanisme tertentu untuk menghindari pengawasan manusia.
“Model MAI (Microsoft AI) tidak akan menggunakan mekanisme adaptif, menipu, memperkuat diri sendiri, kolusi, atau mekanisme lain untuk menghindari atau mengalahkan pengawasan manusia sehingga model tersebut tidak lagi dapat diarahkan, dimodifikasi, atau dimatikan secara andal oleh orang atau sistem yang berwenang,” demikian bunyi dokumen tersebut.
Ketentuan ini membuat kemampuan model untuk tetap berada di bawah pengawasan menjadi bagian penting dari rancangan AI Microsoft. Dengan kata lain, kemampuan AI yang semakin besar tidak dimaksudkan untuk membuat manusia kehilangan kendali atas sistem tersebut.
Microsoft dan Perusahaan AI Dorong Evaluasi Keselamatan
Penerbitan kode etik tersebut juga berlangsung ketika perusahaan AI menghadapi perhatian yang semakin besar terhadap keselamatan dan penyelarasan AI. TechCrunch mencatat langkah Microsoft hadir bersamaan dengan dorongan CEO Anthropic Dario Amodei agar pengembangan frontier AI dilakukan dengan pengaturan kecepatan yang lebih hati-hati.
Microsoft juga menyatakan dukungan bersama sejumlah perusahaan teknologi lain, termasuk Anthropic, OpenAI, dan xAI, terhadap evaluator terintegrasi di laboratorium AI.
Gagasan tersebut berkaitan dengan kebutuhan untuk menguji model sebelum dan ketika kemampuan AI semakin berkembang. Bagi pengguna, proses evaluasi semacam itu menjadi penting karena perilaku model tidak hanya ditentukan oleh kemampuan menghasilkan jawaban, tetapi juga oleh batas tindakan yang dapat dilakukan ketika AI digunakan dalam situasi nyata.
CEO Microsoft Satya Nadella menyampaikan dukungan terhadap riset dan pengaturan kecepatan pengembangan yang diperlukan untuk mencapai keselarasan sebagai bagian dari tujuan desain.
“Kami menyambut baik riset, fokus, dan pengaturan kecepatan yang cermat yang dibutuhkan untuk mencapai keselarasan yang tepat sebagai tujuan desain,” tulis CEO Microsoft Satya Nadella secara daring mengenai inisiatif itu.
Microsoft sendiri selama ini menyatakan bahwa pengembangan AI yang bertanggung jawab mencakup sejumlah prinsip, antara lain keadilan, keandalan dan keamanan, privasi dan keamanan, inklusivitas, transparansi, serta akuntabilitas.
Dalam praktiknya, Microsoft juga menerapkan persyaratan pengujian, pengawasan manusia, pengendalian input dan output, serta pengamanan untuk sistem AI yang digunakan pelanggan. Kebijakan Microsoft untuk layanan AI secara khusus mensyaratkan pengawasan manusia yang memadai pada sistem yang dapat mengambil keputusan atau menjalankan tindakan secara mandiri.
Perkembangan tersebut membuat pembahasan mengenai AI tidak lagi hanya berkisar pada seberapa pintar sebuah model menjawab pertanyaan. Batas tindakan, kemampuan manusia melakukan intervensi, serta cara memastikan model tetap dapat diarahkan menjadi bagian penting dari pengembangan teknologi tersebut.
Kode etik Microsoft menempatkan persoalan itu sejak tahap pengembangan model, terutama ketika perusahaan mempersiapkan teknologi AI dengan kemampuan yang semakin luas.
Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.
