AI Bot Search

Chat Generative Pre-Trained Transformer, thường được gọi là ChatGPT, là một chatbot do OpenAI ra mắt vào tháng 11 năm 2022. Nó được xây dựng dựa trên các mô hình ngôn ngữ lớn GPT-3 của OpenAI và được tinh chỉnh (một cách tiếp cận để chuyển đổi học tập) với cả kỹ thuật học có giám sát và học củng cố.

ChatGPT được ra mắt dưới dạng nguyên mẫu vào ngày 30 tháng 11 năm 2022 và nhanh chóng thu hút sự chú ý nhờ các câu trả lời chi tiết và câu trả lời rõ ràng trên nhiều lĩnh vực kiến ​​thức. Độ chính xác thực tế không đồng đều của nó được xác định là một nhược điểm đáng kể. Sau khi phát hành ChatGPT, OpenAI được định giá 29 tỷ USD

Tập huấn

ChatGPT đã được tinh chỉnh dựa trên GPT-3.5 bằng cách sử dụng phương pháp học có giám sát cũng như phương pháp học tăng cường. Cả hai phương pháp đều sử dụng người huấn luyện để cải thiện hiệu suất của mô hình. Trong trường hợp học tập có giám sát, mô hình được cung cấp các cuộc trò chuyện trong đó người huấn luyện đóng vai trò là cả hai bên: người dùng và trợ lý AI. Trong bước củng cố, các huấn luyện viên con người đầu tiên xếp hạng các câu trả lời mà mô hình đã tạo ra trong cuộc trò chuyện trước đó. Các bảng xếp hạng này được sử dụng để tạo 'mô hình phần thưởng' mà mô hình này đã được tinh chỉnh thêm bằng cách sử dụng một số lần lặp lại Tối ưu hóa chính sách gần nhất (PPO). Các thuật toán Tối ưu hóa chính sách gần mang lại lợi ích hiệu quả về chi phí cho các thuật toán tối ưu hóa chính sách vùng; chúng phủ nhận nhiều hoạt động tính toán tốn kém với hiệu suất nhanh hơn. Các mô hình đã được đào tạo với sự cộng tác của Microsoft trên cơ sở hạ tầng siêu máy tính Azure của họ.

Ngoài ra, OpenAI tiếp tục thu thập dữ liệu từ người dùng ChatGPT có thể được sử dụng để đào tạo thêm và tinh chỉnh ChatGPT. Người dùng được phép ủng hộ hoặc không ủng hộ các phản hồi mà họ nhận được từ ChatGPT; khi ủng hộ hoặc không ủng hộ, họ cũng có thể điền vào trường văn bản với phản hồi bổ sung.