Uni Eropa melanjutkan langkahnya dengan peraturan pertama dari jenisnya untuk kecerdasan buatan (AI).

Kecerdasan buatan (AI) ada di mana-mana, tetapi hingga saat ini belum banyak diatur. Uni Eropa berencana untuk mengubah hal tersebut melalui RUU Kecerdasan Buatan Uni Eropa yang diusulkannya. Parlemen Eropa mengambil langkah besar dalam regulasi kecerdasan buatan pada awal Juni ketika anggotanya menyetujuidraf RUU tersebut.

Undang-Undang tersebutpertama kali diusulkanoleh Komisi Eropa pada tahun 2021, dan banyak hal telah berubah dalam bidang kecerdasan buatan (AI) sejak saat itu – terutama dengan munculnya produk-produk AI generatif. Akibatnya, tidak mengherankan jika posisi negosiasi yang diadopsi oleh Parlemen berbeda denganposisiKomisi atauDewan Eropa yangdiadopsi pada tahun 2022. Perbedaan antara ketiga versi draf Undang-Undang AI ini mungkin memperpanjang negosiasi dan peraturan akhir. Namun, perusahaan yang menyediakan atau menggunakan sistem AI dapat memperkirakan arah umum peraturan tersebut dan sebaiknya mulai mempersiapkan diri.

Undang-Undang AI mengadopsi pendekatan berbasis risiko dalam mengatur AI, dengan menetapkan peraturan yang lebih ketat untuk aplikasi AI yang berpotensi menimbulkan ancaman lebih besar terhadap keselamatan pengguna. Sistem AI yang masuk dalam kategori "risiko yang tidak dapat diterima" sesuai dengan Undang-Undang tersebut akan dilarang di Uni Eropa.

Perubahan utama

Posisi yang diadopsi oleh Parlemen Eropa lebih jauh daripada versi Komisi dan Dewan, dengan kewajiban baru bagi penyedia dan cakupan yang diperluas untuk apa yang dikategorikan sebagai sistem kecerdasan buatan berisiko tinggi. Beberapa perubahan utama meliputi:

• Definisi yang lebih ketat tentang sistem kecerdasan buatan (AI) yang selaras dengan definisi dari Organisasi untuk Kerjasama Ekonomi dan Pembangunan (OECD). Rancangan tersebut mendefinisikan sistem AI sebagai “sistem berbasis mesin yang dirancang untuk beroperasi dengan tingkat otonomi yang bervariasi dan yang dapat, untuk tujuan eksplisit atau implisit, menghasilkan output seperti prediksi, rekomendasi, atau keputusan yang memengaruhi lingkungan fisik atau virtual.”
• Daftar yang lebih luas dari sistem kecerdasan buatan (AI) yang dikategorikan sebagai "risiko yang tidak dapat diterima" dan akan dilarang secara ketat. Daftar tersebut kini mencakup banyak sistem identifikasi biometrik jarak jauh, sistem kepolisian prediktif, sistem pengenalan emosi, dan sistem kategorisasi biometrik "penilaian sosial".
• Klasifikasi yang diperluas untuk sistem berisiko tinggi, yang mencakup sistem yang dapat menimbulkan bahaya bagi kesehatan, keselamatan, atau hak asasi manusia, serta menimbulkan bahaya bagi lingkungan, di antara hal-hal lain.
• Kewajiban bagi penyedia model dasar untuk melakukan penilaian risiko terhadap sistem mereka, serta mendaftar dalam basis data Uni Eropa.
• Persyaratan transparansi baru yang harus dipenuhi oleh model dasar generatif, seperti mengungkapkan kapan konten dihasilkan oleh AI, merancang model AI untuk mencegah mereka menghasilkan konten ilegal, dan mempublikasikan ringkasan data berhak cipta yang digunakan model untuk pelatihan.

Posisi yang diadopsi juga mencakup kecerdasan buatan generatif (generative AI), yang sebelumnya kurang menjadi perhatian dalam versi-versi sebelumnya. Perubahan-perubahan tersebut meliputi:

Rancangan Undang-Undang Kecerdasan Buatan (AI Act) kini memasuki tahap negosiasi penuh antara Komisi, Dewan, dan Parlemen untuk menentukan teks akhir undang-undang tersebut, yang kemungkinan akan memakan waktu hingga akhir tahun. Seperti yang kita lihat di industri lain, misalnya dalam perangkat medis, regulasi yang tercantum dalam AI Act mungkin segera menjadi usang mengingat laju inovasi yang cepat dalam teknologi kecerdasan buatan. Para pembuat undang-undang sedang mengambil langkah-langkah untuk mengatasi dilema ini, namun untuk saat ini fokus tampaknya tertuju pada pembentukan landasan untuk mengatur sistem kecerdasan buatan.

Perusahaan di semua sektor industri – baik yang menyediakan maupun menggunakan AI – sebaiknya memantau perkembangan Undang-Undang AI dengan cermat. Meskipun undang-undang ini kemungkinan baru akan berlaku pada tahun 2026, pelanggaran terhadapnya diperkirakan akan menimbulkan konsekuensi yang berat. Misalnya, menempatkan sistem AI yang tidak memenuhi syarat di pasar UE akan dikenakan denda administratif hingga €40 juta atau 7% dari total omzet tahunan global perusahaan (mana yang lebih tinggi) berdasarkan posisi yang telah disetujui oleh Parlemen.

Dengan AI yang semakin dianggap sebagai teknologi masa depan, dan dengan pemerintah lain yang diperkirakan akan menggunakan Undang-Undang AI UE sebagai pedoman untuk peraturan mereka sendiri, perusahaan sebaiknya mengambil langkah-langkah sekarang untuk menyesuaikan operasional mereka dengan AI dan peraturan yang terkait.

Untuk mengetahui bagaimana teknologi baru ini akan merevolusi keamanan konsumen dan produk, daftarkan diri Anda untuk webinar kamidi sini. Selama sesi eksklusif berdurasi 45 menit ini, panel ahli kami akan berbagi pandangan mereka tentang potensi dampak kecerdasan buatan (AI) terhadap praktik bisnis di seluruh siklus hidup produk. Jangan lewatkan – daftarkan diri Andadi sini.