300 классов, 400 сэмплов и никакого промптинга: ЛЛМ как энкодер для классификации
Но для 100+ классов (или даже 20-30) — уже нет: контекст раздувается, модель галлюцинирует, а инференс может занимать десятки секунд.
Useful takeaways from this story.
Но для 100+ классов (или даже 20-30) — уже нет: контекст раздувается, модель галлюцинирует, а инференс может занимать десятки секунд.
Building the complete brief
The page is ready to read now. The fuller skim-friendly version will appear here automatically.
The useful part
Но для 100+ классов (или даже 20-30) — уже нет: контекст раздувается, модель галлюцинирует, а инференс может занимать десятки секунд.
Keep reading in the app
Open the app view to save this story, compare related coverage, and continue from the same source.