Nėra vieno geriausio
Modelio pasirinkimas priklauso nuo užduoties. Paprastam tekstui užtenka pigesnio, greito modelio. Sudėtingam samprotavimui ar kodui verta brangesnio, galingesnio.
Į ką žiūrėti
- Kokybė: ar modelis pakankamai tikslus tavo užduočiai.
- Greitis (latency): ar atsakymas ateina pakankamai greitai vartotojui.
- Kaina: kiek kainuoja 1000 žodžių įvesties/išvesties.
- Kontekstas: kiek teksto telpa į vieną užklausą.
Praktinis patarimas
Pradėk nuo pigesnio modelio. Jei rezultatas nepakankamas – kelk į galingesnį. Nepriklausomi palyginimai (pvz., Artificial Analysis) padeda pamatyti kokybės, greičio ir kainos santykį tarp tiekėjų.
Oficiali dokumentacija