Seperti Film Terminator, AI Google menjadi Agresif ketika Terdesak

Menurut salah satu anggota tim Google, Joel Z Leibo, perilaku mirip manusia ini adalah akibat dari kemampuan DeepMind untuk belajar dari lingkungannya.

Semakin cerdas AI, semakin cepat juga dia belajar untuk menggunakan taktik-taktik agresif.

Namun, kecerdasan AI tidak melulu jelek, seperti yang dibuktikan dalam permainan kedua di mana dua agen menjadi serigala dan satu agen menjadi mangsa.

Untuk memenangkan permainan ini, kedua serigala harus bekerjasama untuk menangkap mangsa dan melindungi tangkapan dari hewan pemakan bangkai lainnya.

Dengan cepat, agen DeepMind mempelajari bahwa kolaborasi merupakan kunci kesuksesan dalam situasi tersebut.

Temuan-temuan ini memang didasarkan pada permainan komputer, tetapi mereka juga menunjukkan bahwa hanya karena dibangun oleh manusia, bukan berarti AI selalu mengutamakan kepentingan kita.

Oleh karena itu, kita perlu membangun perilaku yang ramah manusia pada AI dan mengantisipasi masalah yang mungkin muncul ke depannya.(TRIBUNJOGJA.COM)

Artikel ini telah tayang di Kompas.com dengan judul "“The Terminator” Bukan Fiksi, AI Google Berubah Agresif Saat Terdesak", https://sains.kompas.com/read/2018/04/07/190700323/the-terminator-bukan-fiksi-ai-google-berubah-agresif-saat-terdesak.
Penulis : Shierine Wangsa Wibawa
Editor : Shierine Wangsa Wibawa