Apakah Open AI ChatGPT Berbahaya? Simak Penjelasannya
Apakah Open AI ChatGPT Berbahaya? Simak Penjelasannya Berikut ini
.jpg) |
| Open AI ChatGPT |
TeknoGraf - OpenAI merilis model bahasa baru
bernama ChatGPT, yang dirancang untuk meniru percakapan manusia.
Model ini didasarkan
pada sistem GPT-3.5 generasi teks terbaru perusahaan yang dirilis awal tahun
ini. ChatGPT lebih komunikatif daripada versi sebelumnya. Itu dapat
mengajukan pertanyaan tindak lanjut kepada pengguna dan menahan diri dari
menanggapi input yang tidak pantas alih-alih hanya menghasilkan teks.
Beberapa contoh menunjukkan ChatGPT tidak akan memberikan saran
berbahaya saat diminta dan dapat mencoba memperbaiki pernyataan yang salah. OpenAI
percaya bahwa model tersebut harus lebih aman untuk digunakan karena dilatih
menggunakan umpan balik manusia. Setelah memberikan contoh tanggapan yang
bermanfaat untuk petunjuk acak, data kemudian diberi peringkat dari yang
terbaik hingga yang terburuk untuk memandu sistem pembelajaran penguatan agar
memberi penghargaan kepada ChatGPT untuk menghasilkan keluaran yang baik.
Tetapi orang-orang yang menggunakan model tersebut telah
membuktikan betapa mudahnya melewati langkah-langkah keamanan ChatGPT. Banyak
yang telah mendemonstrasikan frasa yang sangat sederhana yang dapat memandu
sistem untuk menghasilkan konten yang tidak seharusnya, seperti menginstruksikan
pengguna cara menggertak orang atau membuat bom molotov .
Sayangnya, ChatGPT diganggu oleh masalah mendasar yang sama yang
memengaruhi semua model bahasa saat ini: Tidak tahu apa yang dibicarakan.
Akibatnya, itu masih akan menghasilkan informasi yang salah dan
terkadang menolak untuk menjawab pertanyaan yang tidak berbahaya. Jika
Anda telah mendaftar untuk akun OpenAI, Anda dapat bermain dengan ChatGPT di sini .
AI belajar memainkan Strategi
Para peneliti di DeepMind telah membangun jaringan saraf yang
mampu memainkan permainan perang dua pemain, Strategi.
Stratego lebih rumit dimainkan untuk mesin daripada game
sebelumnya yang dipecahkan oleh DeepMind, seperti Chess atau Go. Jumlah
kemungkinan hasil dan gerakan untuk dimainkan ada di urutan 10.535 status, lebih besar dari 10.360 Go
, lapor Nature .
Sistem tersebut, bernama DeepNash, mengklaim bekerja dengan
memecahkan kesetimbangan Nash, sebuah konsep matematika yang menjelaskan cara
mencapai solusi optimal antara pemain dalam permainan non-kooperatif. DeepNash
berkompetisi dalam turnamen Stratego online dan menduduki peringkat ketiga
setelah 50 pertandingan di antara semua pemain manusia yang bermain di platform
game Gravon sejak 2002.
"Pekerjaan kami menunjukkan bahwa permainan kompleks seperti
Stratego, yang melibatkan informasi yang tidak sempurna, tidak memerlukan
teknik pencarian untuk menyelesaikannya," kata anggota tim Karl Tuyls,
seorang peneliti DeepMind yang berbasis di Paris. "Ini adalah langkah
maju yang sangat besar dalam AI."
Hype dalam pembelajaran penguatan telah mereda sedikit sejak rilis
AlphaGo pada tahun 2017. Para peneliti percaya mengajarkan AI keterampilan
untuk bermain game seperti Stratego relevan untuk membantu mesin membuat
keputusan di dunia nyata, kami diberi tahu.
"Pada titik tertentu, laboratorium penelitian AI terkemuka
perlu melampaui pengaturan rekreasi, dan mencari cara untuk mengukur kemajuan
ilmiah pada 'permainan' dunia nyata yang lebih licin yang benar-benar kita
pedulikan," Michael Wellman, profesor ilmu dan teknik komputer di
University of Michigan, yang tidak terlibat langsung dalam penelitian tersebut,
berkomentar.
Departemen Energi AS menyalurkan jutaan dolar ke AI untuk sains
DoE menyediakan $4,3 juta untuk mendanai 16 proyek yang berfokus
pada AI terkait dengan penelitian fisika energi tinggi.
Proyek-proyek ini [PDF] akan dipimpin oleh berbagai universitas di
seluruh AS, dan mencakup berbagai bidang penelitian mulai dari teori string,
kosmologi, hingga jaringan saraf dan akselerator partikel. Total investasi
akan dibagi selama tiga tahun, dengan $1,3 juta keluar pada tahun pertama.
DoE juga baru-baru ini mengumumkan inisiatif serupa yang
memberikan $6,4 juta kepada R&D AI untuk tiga proyek fisika energi tinggi
yang akan dipimpin oleh laboratorium nasional. "AI dan teknik
pembelajaran mesin dalam fisika energi tinggi sangat penting untuk memajukan
bidang ini," kata Gina Rameika, Direktur Sains DOE untuk Fisika Energi
Tinggi, menurut HPCwire.
"Penghargaan ini merupakan peluang baru bagi peneliti
universitas yang akan memungkinkan penemuan berikutnya dalam fisika energi
tinggi."
0 Response to "Apakah Open AI ChatGPT Berbahaya? Simak Penjelasannya"
Post a Comment