Teknologi ChatGPT OpenAI Belum Layak Dipercaya

Ilustrasi gambar otak yang melayang di balon udara

Sebuah artikel yang berjudul "OpenAI isn’t doing enough to make ChatGPT’s limitations clear" ditulis oleh James Vincent di The Verge (30/05/2023). Ia adalah seorang reporter senior yang telah menulis tentang AI (Artificial Intelligence), robotika, dan lainnya selama delapan tahun di The Verge. Ia memberikan ulasan tentang ChatGPT OpenAI, sebuah teknologi AI yang menghebohkan akhir-akhir ini. 

James membahas tentang bagaimana OpenAI tidak melakukan cukup upaya untuk menjelaskan batasan ChatGPT kepada pengguna. ChatGPT adalah chatbot AI yang dibuat oleh OpenAI dan memiliki kemampuan untuk menghasilkan informasi yang salah secara tidak sengaja. Namun, menurut artikel ini, OpenAI tidak cukup menjelaskan hal ini kepada pengguna.

Artikel ini memberikan contoh tentang bagaimana pengacara AS Steven A. Schwartz menggunakan ChatGPT untuk mencari kasus pendukung dalam gugatan hukum yang diajukan terhadap maskapai penerbangan Kolombia Avianca. Namun, masalahnya adalah bahwa semua kasus yang disarankan oleh ChatGPT tidak ada. Schwartz mengklaim bahwa dia "tidak menyadari kemungkinan bahwa konten [ChatGPT] bisa salah," meskipun transkrip percakapannya dengan bot menunjukkan bahwa dia cukup curiga untuk memeriksa penelitiannya.

Pada tulisan tersebut, Schwartz pantas mendapat banyak kesalahan dalam skenario ini, tetapi frekuensi terjadinya kasus seperti ini - ketika pengguna ChatGPT memperlakukan sistem sebagai sumber informasi yang dapat diandalkan - menunjukkan bahwa perlu ada pertanggungjawaban yang lebih luas. Selama beberapa bulan terakhir, telah ada banyak laporan tentang orang-orang yang tertipu oleh kebohongan ChatGPT.

Secara keseluruhan, artikel ini menyoroti pentingnya menjelaskan batasan teknologi kepada pengguna agar mereka dapat menggunakannya dengan bijaksana. OpenAI harus melakukan lebih banyak upaya untuk menjelaskan bahwa ChatGPT tidak dapat membedakan fakta dari fiksi dengan andal.