Tips OpenAI ChatGPT

ChatGPT schreibt manchmal plausibel klingende, aber falsche oder unsinnige Antworten. Das Beheben dieses Problems ist eine Herausforderung, da: (1) während des RL-Trainings derzeit keine Quelle der Wahrheit vorhanden ist; (2) das Trainieren des Modells, vorsichtiger zu sein, führt dazu, dass es Fragen ablehnt, die es richtig beantworten kann; und (3) beaufsichtigtes Training führt das Modell in die Irre, weil die ideale Antwort davon abhängt, was das Modell weiß, und nicht, was der menschliche Demonstrator weiß.

ChatGPT reagiert empfindlich auf Änderungen an der Eingabeformulierung oder versucht, dieselbe Eingabeaufforderung mehrmals zu wiederholen. Beispielsweise kann das Modell bei einer gegebenen Formulierung einer Frage behaupten, die Antwort nicht zu kennen, aber bei einer leichten Umformulierung richtig antworten.

Das Modell ist oft übermäßig ausführlich und überbeansprucht bestimmte Ausdrücke, z. B. die Wiederholung, dass es sich um ein von OpenAI trainiertes Sprachmodell handelt. Diese Probleme ergeben sich aus Verzerrungen in den Trainingsdaten (Trainer bevorzugen längere Antworten, die umfassender aussehen) und bekannten Überoptimierungsproblemen.