Fitur Baru AI Google Memberikan Hasil yang Aneh dan Berbahaya

loading…

Fitur Baru AI Google . foto/ Daily

MENLO PARK – Google baru saja meluncurkan Ikhtisar AI, sebuah fitur yang dirancang untuk memberikan hasil pencarian yang dihasilkan AI.

Seperti dilansir dari IFL Science, Minggu (26/5/2024), Namun, sejak peluncurannya, fitur ini telah menuai banyak kritikan karena menghasilkan jawaban yang lucu dan bahkan berbahaya.

Pengguna media sosial dengan cepat menunjukkan contoh jawaban lucu yang dihasilkan Ikhtisar AI. Namun, beberapa orang kemudian menyadari bahwa ada juga beberapa jawaban yang mengkhawatirkan.

Masalahnya terletak pada cara kerja Ikhtisar AI. Fitur ini menggunakan algoritme pembelajaran mesin yang dilatih untuk mengenali kata dan frasa dalam konteks tertentu. Ketika pengguna mengajukan pertanyaan, AI akan menghasilkan jawaban yang diharapkan sesuai dengan pertanyaan tersebut.

Namun, algoritme ini tidak dapat membedakan antara situs berita serius dan situs satir atau humor. Akibatnya, Ikhtisar AI sering kali mengambil informasi dari situs seperti The Onion atau Reddit dan menyajikannya sebagai fakta.

Hal ini dapat menyebabkan konsekuensi yang berbahaya, karena pengguna mungkin mempercayai informasi yang salah ini. Contohnya, Ikhtisar AI pernah memberikan ringkasan kasus hukum palsu yang dibuat oleh seorang pengacara.

Google telah menyatakan bahwa mereka sedang berupaya untuk meningkatkan Ikhtisar AI dan membuatnya lebih dapat diandalkan. Namun, untuk saat ini, pengguna harus berhati-hati saat menggunakan fitur ini dan selalu memverifikasi informasi yang diberikannya dengan sumber lain.

Ikhtisar AI adalah fitur baru dari Google yang menghasilkan hasil pencarian yang dihasilkan AI.
Fitur ini telah dikritik karena menghasilkan jawaban yang lucu dan bahkan berbahaya.

Masalahnya terletak pada cara kerja algoritme pembelajaran mesin Ikhtisar AI, yang tidak dapat membedakan antara situs berita serius dan situs satir atau humor.

Hal ini dapat menyebabkan konsekuensi yang berbahaya, karena pengguna mungkin mempercayai informasi yang salah.

Google sedang berupaya untuk meningkatkan Ikhtisar AI, namun pengguna harus berhati-hati saat menggunakan fitur ini untuk saat ini.

(wbs)

Leave a Reply