Peran Strategis Pustakawan di Era Kecerdasan Artifisial (AI)

Abstrak:

peran strategis pustakawan di era Kecerdasan Artifisial (AI), dengan fokus pada bagaimana pustakawan dapat memastikan bahwa nilai-nilai dan kepentingan manusia tetap menjadi pusat perhatian dalam pengembangan AI, serta menghindari "Masalah Gorila" yang digagas oleh Stuart Russell.


Masalah Gorila dan Peran AI

Dokumen ini memperkenalkan "Masalah Gorila" dari Stuart Russell, sebuah analogi yang menggambarkan risiko ketika AI berkembang melampaui kapasitas manusia, menyebabkan manusia kehilangan posisi dominan dan kendali atas nasibnya sendiri, seperti gorila terhadap manusia. Russell menekankan bahwa jika manusia terlalu bergantung pada AI, mereka berisiko menjadi tidak berdaya dan punah. Oleh karena itu, penting untuk merancang sistem AI yang bermanfaat bagi manusia dan mencegah AI meraih tujuan yang membahayakan manusia.

Tiga Prinsip Russell tentang Manfaat AI

Dokumen ini menguraikan tiga prinsip Russell untuk memastikan AI tetap bermanfaat bagi manusia:

Tujuan utama mesin adalah memaksimalkan realisasi kecenderungan keinginan manusia: AI tidak boleh memiliki tujuannya sendiri, melainkan membantu manusia mencapai apa yang dianggap bernilai.

Mesin ini awalnya tidak mempunyai keyakinan terkait kecenderungan keinginan manusia: AI harus memperlakukan nilai-nilai manusia sebagai tidak pasti dan dapat dipelajari, mencegah optimasi kaku terhadap tujuan yang lemah atau tidak lengkap.

Sumber informasi utama terkait kecenderungan keinginan manusia adalah perilaku manusia: AI belajar dengan mengamati apa yang manusia lakukan, mengajukan pertanyaan, dan menafsirkan pilihan manusia (Inverse Reinforcement Learning/IRL).

Bagaimana Prinsip Ini Mengatasi Masalah Gorila

Solusi Russell adalah membalikkan paradigma rancangan AI: daripada AI mengetahui dengan pasti apa yang harus dilakukan, AI harus tetap tidak yakin tentang kecenderungan keinginan manusia dan terus belajar dari manusia. Ini memastikan AI tetap hormat, dapat dikoreksi, dan rendah hati, bertindak sebagai pembantu yang penuh kehati-hatian, bukan spesies yang mendominasi.

Langkah Strategis dalam Membangun Ketidakpastian terkait Nilai-nilai Manusia
Jangan biarkan AI berasumsi bahwa ia tahu apa yang diinginkan manusia.
Jangan biarkan AI memperlakukan nilai-nilai manusia sebagai unsur kemungkinan, bukan sebagai rumusan pasti.
Strategi ini akan menjadikan sistem AI berhati-hati atau tidak yakin, sehingga tidak menimbulkan salah tafsir.

Peran Pustakawan dalam Mengatasi Masalah Gorila

Dokumen ini mengidentifikasi tujuh peran penting pustakawan dalam era AI untuk mencegah "Masalah Gorila":
Menjadi kurator pengetahuan dan nilai-nilai manusia: Pustakawan menjaga memori budaya, kode etik, kebaikan sejarah, dan ragam perspektif, yang menjadi data penting untuk mengajarkan AI tentang nilai-nilai manusia.

Pembimbing Literasi Informasi: Pustakawan memberikan program literasi AI untuk masyarakat, menjelaskan apa itu AI, bahaya tujuan yang tidak jelas yang dibuat AI, dan cara mengevaluasi konten AI secara kritis.

Penegak Etika: Pustakawan memperluas prinsip etika, privasi, dan kebebasan intelektual untuk mencakup AI, termasuk memberikan masukan terkait privasi dalam pelatihan AI dan memastikan komunitas terpinggirkan tidak terhapus dari pangkalan pengetahuan AI.

Menjembatani Antar Disiplin: Pustakawan memfasilitasi dialog antara ilmuwan komputer, pembuat kebijakan, penegak etika, dan masyarakat, serta menyelenggarakan forum dan debat terkait masa depan AI.

Pelindung Agensi Manusia: Pustakawan memastikan manusia tetap menjadi pengambil keputusan utama di era AI, mengusulkan kebijakan di mana AI adalah alat pembantu, bukan pengganti penilaian manusia.

Memberikan masukan dalam pembuatan kebijakan Informasi Inklusif: Pustakawan mendorong standar data terbuka, transparansi dalam pembuatan keputusan AI, dan keterlibatan komunitas dalam pembentukan hukum terkait AI.
Pendukung Ketahanan dan Keberlangsungan Manusia: Pustakawan membantu melestarikan perspektif jangka panjang terkait pengembangan AI dan mengingatkan pembuat kebijakan bahwa keamanan penggunaan AI adalah tanggung jawab peradaban.

Kondisi AI di Perpustakaan dan Tantangan

Penelitian menunjukkan bahwa sebagian proyek AI di perpustakaan masih dalam tahap uji coba (chatbots, recommender systems, otomasi metadata). Namun, ada peringatan bahwa masih kurang bukti kuat terkait efek jangka panjang, khususnya terkait pemerataan akses dan kepercayaan pengguna. Keberhasilan penerapan AI lebih bergantung pada dukungan pimpinan, pendanaan, dan kebijakan yang jelas, daripada keterampilan teknis semata. Pustakawan menunjukkan optimisme dalam mengurangi pekerjaan rutin, tetapi juga kekhawatiran terkait masa depan pekerjaan mereka dan risiko pelanggaran etika. Kompetensi pustakawan perlu ditingkatkan melalui pelatihan literasi AI, etika data, dan negosiasi pengadaan AI.

Kesimpulan

Dokumen ini menyimpulkan bahwa pustakawan tidak tergantikan di tengah penggunaan AI yang semakin masif. Pustakawan tetap menjadi pemandu, pendidik, dan penegak etika utama, memastikan bahwa AI memperkuat, bukan merusak misi perpustakaan, dan bahwa nilai-nilai manusia, bukan logika mesin, yang membentuk masa depan.