ChatGPT menjadi kekuatan baru sebagai produk kecerdasan buatan (artificial intelligence/AI) yang baru dirilis oleh OpenAI. Kehadiran ChatGPT menimbulkan banyak kontroversi namun banjir dukungan terus mengalir.

Selain memiliki banyak keunggulan, ChatGPT pun menyisakan kekurangan dan bahaya yang bisa timbul. Beberapa risiko bahaya ChatGPT ini sudah mulai dirasakan.

Tak heran jika OpenAI mencantumkan beberapa keterbatasan ChatGPT seperti yang ada saat ini. Misalnya, ChatGPT terkadang menulis pernyataan yang koheren namun salah, membuat asumsi tentang pertanyaan yang ambigu, dan cenderung terlalu bertele-tele, serta kekhawatiran lainnya.

Pada minggu-minggu pertama peluncurannya ke publik, ChatGPT menjadi berita utama karena dugaan penggunaannya di kalangan siswa dalam membuat makalah yang ditulis dengan AI dan tugas lainnya.

Kekhawatiran tentang penyalahgunaan ChatGPT untuk kecurangan akademis semakin besar sehingga seorang mahasiswa ilmu komputer di Universitas Princeton menciptakan sebuah aplikasi yang dirancang untuk mengidentifikasi dan mengekspos tulisan yang dibuat oleh bot tersebut.

Pada September 2023, Authors Guild dan lebih dari selusin penulis fiksi terkemuka—termasuk seperti Jonathan Franzen, John Grisham, George RR Martin, Jodi Picoult, George Saunders, dan Scott Turow—mengajukan gugatan yang menuntut OpenAI atas pelanggaran hak cipta.

Diduga bahwa untuk melatih ChatGPT, perusahaan telah menyalin karya penulis secara "grosir, tanpa izin atau pertimbangan. Tergugat kemudian memasukkan karya berhak cipta Penggugat ke dalam 'model bahasa besar' atau 'LLM', yaitu algoritma yang dirancang untuk menghasilkan output manusia, tampak seperti tanggapan teks terhadap permintaan dan pertanyaan pengguna.

Algoritma ini adalah jantung dari perusahaan komersial besar-besaran Terdakwa. Dan inti dari algoritma ini adalah pencurian sistematis dalam skala massal.

Mungkin yang lebih buruk lagi, tuntutan tersebut menunjukkan potensi kecerdasan buatan (AI) untuk "mengeluarkan karya turunan", meniru dan bersaing dengan manusia yang menciptakannya, serta berpotensi menghilangkan mata pencaharian mereka.

Bagi sebagian pengamat, ChatGPT menimbulkan risiko tambahan dan berpotensi lebih serius. Misalnya, para analis memperkirakan bahwa bot dapat digunakan untuk membuat serangan malware dan phishing menjadi lebih canggih, atau bahwa peretas dapat memanfaatkan teknologi tersebut untuk mengembangkan model AI mereka sendiri yang mungkin kurang terkontrol.

Karena kekhawatiran mengenai misinformasi semakin meningkat, beberapa pihak sangat sensitif terhadap kemungkinan bahwa ChatGPT dapat digunakan untuk membuat dan membagikan materi yang bersifat politis yang meyakinkan namun menyesatkan.

Yang lebih buruk lagi adalah kekhawatiran bahwa AI pada akhirnya akan mengambil nyawanya sendiri, bahkan menyebabkan kepunahan manusia—kekhawatiran yang juga dialami oleh banyak ilmuwan dan pakar industri, bukan sekadar orang gila.

BACA JUGA: Apa itu ChatGPT yang Membuat Banyak Negara dan Ahli Ketakutan?

BACA JUGA: Bagaimana ChatGPT Hasilkan Cuan?