Bagaimana ChatGPT Sebenarnya Dibina
Kuliah Stanford 1 jam 44 minit yang membuka seluruh proses membina model bahasa besar, dari menapis internet yang kotor sampai mengajar model itu jadi pembantu yang sopan.
- Lima Tiang LLM Senibina paling glamor, tapi data dan sistem yang menang
- Teka Perkataan Seterusnya Itu sahaja kerja LLM, selebihnya cuma soal skala
- Internet Itu Kotor 250 bilion halaman ditapis berlapis jadi 15 trilion token
- Hukum Skala Prestasi model boleh diramal sebelum sesen pun dibelanja
- Harga Sebenar Kira-kira AS$75 juta untuk melatih satu model terbuka
- Ajar Gaya, Bukan Ilmu 2,000 contoh sudah cukup ubah model jadi pembantu
- Pilih, Jangan Tulis Manusia lemah menulis jawapan terbaik, tapi pandai memilih
- Menilai Tanpa Kunci Jawapan Bila soalan terbuka, siapa pula yang jadi pemeriksa?
- GPU Yang Menganggur Separuh kuasa cip hilang sebab data lambat sampai