Tips OpenAI ChatGPT

ChatGPT terkadang menulis jawaban yang terdengar masuk akal tetapi salah atau tidak masuk akal. Memperbaiki masalah ini menantang, karena: (1) selama pelatihan RL, saat ini tidak ada sumber kebenaran; (2) melatih model untuk lebih berhati-hati menyebabkan model menolak pertanyaan yang dapat dijawab dengan benar; dan (3) pelatihan yang diawasi menyesatkan model karena jawaban yang ideal bergantung pada apa yang diketahui model, bukan apa yang diketahui oleh peraga manusia.

ChatGPT peka terhadap tweak ke frase input atau mencoba prompt yang sama beberapa kali. Misalnya, diberikan satu ungkapan pertanyaan, model dapat mengklaim tidak tahu jawabannya, tetapi diberi sedikit pengulangan, dapat menjawab dengan benar.

Modelnya sering terlalu bertele-tele dan menggunakan frasa tertentu secara berlebihan, seperti menyatakan kembali bahwa itu adalah model bahasa yang dilatih oleh OpenAI. Masalah ini muncul dari bias dalam data pelatihan (pelatih lebih menyukai jawaban yang lebih panjang yang terlihat lebih komprehensif) dan masalah pengoptimalan yang berlebihan.