AI Bot Search

Chat Generative Pre-Trained Transformer, biasanya dipanggil ChatGPT, ialah bot sembang yang dilancarkan oleh OpenAI pada November 2022. Ia dibina di atas model bahasa besar OpenAI GPT-3 dan diperhalusi (pendekatan untuk memindahkan pembelajaran) dengan kedua-dua teknik pembelajaran penyeliaan dan pengukuhan.

ChatGPT telah dilancarkan sebagai prototaip pada 30 November 2022 dan dengan cepat mendapat perhatian untuk respons terperinci dan jawapan yang jelas merentas banyak domain pengetahuan. Ketepatan fakta yang tidak sekata dikenal pasti sebagai kelemahan yang ketara. Selepas keluaran ChatGPT, OpenAI bernilai $29 bilion

Latihan

ChatGPT telah diperhalusi di atas GPT-3.5 menggunakan pembelajaran diselia serta pembelajaran pengukuhan. Kedua-dua pendekatan menggunakan jurulatih manusia untuk meningkatkan prestasi model. Dalam kes pembelajaran diselia, model telah disediakan dengan perbualan di mana jurulatih memainkan kedua-dua belah pihak: pengguna dan pembantu AI. Dalam langkah pengukuhan, jurulatih manusia meletakkan kedudukan pertama pada respons yang telah dibuat oleh model dalam perbualan sebelumnya. Kedudukan ini digunakan untuk mencipta 'model ganjaran' yang model itu diperhalusi lagi menggunakan beberapa lelaran Pengoptimuman Dasar Proksimal (PPO). Algoritma Pengoptimuman Dasar Proksimal memberikan manfaat kos efektif untuk mempercayai algoritma pengoptimuman dasar wilayah; mereka menafikan banyak operasi pengiraan yang mahal dengan prestasi yang lebih pantas. Model-model tersebut telah dilatih dengan kerjasama Microsoft pada infrastruktur superkomputer Azure mereka.

Selain itu, OpenAI terus mengumpul data daripada pengguna ChatGPT yang boleh digunakan untuk melatih dan memperhalusi ChatGPT lagi. Pengguna dibenarkan mengundi naik atau menolak respons yang mereka terima daripada ChatGPT; selepas mengundi naik atau menolak, mereka juga boleh mengisi medan teks dengan maklum balas tambahan.