Sarana Informasi Bidang Informatika.

OpenAI Dan Google Bersama Mencegah Robot Berontak Di Masa Depan

Bicara masalah robot yang diberi dengan kecerdasan buatan, pasti ada dikit ketakutan kita bagaimana AI mempunyai kekuatan untuk mengakibatkan robot di masa yang akan datang lakukan pemberontakan. Mungkin ini tampak seperti di film, akan tetapi dalam beberapa masalah kecerdasan buatan bisa menaklukkan kita dalam game, yang pada intinya dibikin dengan AI.



Sesaat tidak ada yang dapat meramalkan apakah yang akan berlangsung di hari esok, perihal terunggul ialah menahan dibanding menyembuhkan, dan itu yang coba dikerjakan oleh Google serta OpenAI. Seperti yang dilaporkan Engadget, ke-2 perusahaan ini sudah melaunching satu artikel riset, di mana mereka sudah menyampaikan cara evaluasi mesin baru yang membutuhkan isyarat dari manusia, menjadi lawan untuk membiarkan mereka berfikir sendiri yang kadang bisa memunculkan konsekuensi yang tidak diharapkan. Contohnya artikel itu menguraikan bagaimana salah satunya permasalahan utama yang ikut serta dalam AI ialah saat tahu jika kecurangan kadang dapat jadi langkah yang sangat efektif untuk sampai reward maximum, itu yang berlangsung saat OpenAI coba membuat AI bermain game, dimana AI ditipu dengan cetak point dengan berkeliling-keliling di sekitar lawan untuk merampungkan permainan. Menjadi dengan memakai isyarat reward dari manusia, berlawanan dengan skema reward automatis saat arah terwujud, hari esok AI pada akhirnya dapat sampai pada titik dimana ia bisa berperilaku lewat cara yang sama dengan arah sekalian memuaskan preferensi kita menjadi manusia. Akan tetapi ada kekurangan dari cara ini, yaitu jika hal tersebut membutuhkan banyak masukan dari manusia yang mungkin belumlah baik atau efektif.

sumber