- Pemakaian AI pada senjata perang menandai revolusi perang ketiga setelah mesiu dan senjata nuklir.
RAB.com (JAKARTA): Kecerdasan buatan (artificial intelligence atau AI) kini kian membahayakan umat manusia? Studi terbaru menunjukkan bahwa agen AI berupa komputer yang diajari banyak hal agar bisa melakukan tugas manusia, ternyata bisa saling bersaing maupun bekerja sama.
DeepMind—salah satu unit Google yang berfokus mengembangkan AI—mengungkap hal tersebut. Dalam satu uji coba, para peneliti membuat agen AI bersaing satu sama lain dalam game komputer.
Tiap agen AI harus menembak jatuh apel digital dengan sinar laser sebanyak mungkin. Keduanya juga bisa melakukan sedikit kecurangan dengan cara menembakkan laser ke lawan. Kompetisi dilakukan dalam 40 juta kali.
Pentingnya kompetisi ini berkaitan dengan ketakutan umum selama ini bahwa robot akan mengambil alih kehidupan manusia saat punya perasaan. Atau digunakan sebagai senjata perang. Riset lewat kompetisi ini bisa mengetahui hubungan kecerdasan dan agresi.
“Komputer AI ternyata punya keinginan untuk mengalahkan pesaingnya,” tulis tim peneliti Google dalam artikel yang diterbitkan di situs DeepMind. Artikel berjudul Multi-agent Reinforcement Learning in Sequential Social Dilemmas ini disiapkan terbit dalam jurnal Proceedings of the 16th International Conference on Autonomous Agents and Multiagent Systems edisi Mei 2017.
Saat jumlah apel masih berlimpah, dua komputer AI masih belum menyerang satu sama lain. Namun, ketika apel semakin sedikit, keduanya kian agresif. Dari uji coba ini Joel Leibo dan empat peneliti lainnya menemukan bahwa, semakin besar kapasitas kognitif komputer AI, semakin besar pula agresi yang mereka lakukan. Perilaku tersebut lebih kompleks daripada sebelumnya ini membutuhkan tingkat kecerdasan lebih tinggi.
Dari kompetisi ini, komputer AI juga belajar berperilaku kooperatif dan bekerja sama. Dalam game kedua, masing-masing agen AI bertindak sebagai serigala. Peneliti memunculkan satu agen lagi yang bertugas sebagai mangsa.
Agen AI belajar bahwa, jika bekerja sama, tingkat keberhasilan menangkap mangsa lebih besar ketimbang sendirian. Selain itu, kerja sama dapat melindungi mereka dari pemangsa lain. “Dua kesimpulan tersebut sama seperti yang dipikirkan manusia,” kata Leibo seperti dikutip laman berita Quartz edisi akhir Februari.
Kecerdasan yang kian kompleks ini terdengar bagai ancaman bagi umat manusia, khususnya jika digunakan dalam perang. Namun, para peneliti mengatakan sebetulnya hal tersebut tidak perlu ditakutkan. Sebab, agen AI memiliki kecerdasan yang cukup terbatas dan masih terfokus pada hal-hal remeh. Menurut Leibo, ancaman terbesar saat ini adalah manusia di balik AI.
Ketakutan penggunaan AI untuk perang dilontarkan langsung oleh Stephen Hawking dan CEO Tesla Motor, Elon Musk, pada Juli 2015. Keduanya bersama lebih dari 1.000 ilmuwan dan peneliti robot terkemuka meneken surat peringatan terbuka tentang bahaya perlombaan senjata militer berbasis AI alias robot perang. Mereka khawatir mesin perang dengan kecerdasan buatan tanpa kontrol penuh manusia, akan mudah dibeli di pasar gelap, termasuk oleh teroris dan penguasa diktator.
Mereka meminta Perserikatan Bangsa-Bangsa (PBB) melarang pengembangan senjata yang digerakkan oleh komputer untuk tujuan perang. Robot perang digambarkan sebagai revolusi ketiga dalam peperangan, setelah mesiu dan senjata nuklir.
Elon Musk, Stephen Hawking, pendiri Apple Steve Wozniak, dan dedengkot DeepMind Demis Hassabis, termasuk dalam barisan yang menyerukan pelarangan pengembangan senjata AI. Mereka menyatakan saat ada kekuatan militer besar mendorong pengembangan senjata tersebut, perlombaan senjata global hampir tak terelakkan.