Update README.md
Browse files
README.md
CHANGED
|
@@ -94,10 +94,18 @@ WIP...
|
|
| 94 |
|
| 95 |
Далее в лидерборде уже строится аналитика этих ответов по типам задач, по целевому классу и тд.
|
| 96 |
|
|
|
|
|
|
|
| 97 |
### Leaderboard
|
| 98 |
|
| 99 |
WIP...
|
| 100 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 101 |
### Проверка ответов
|
| 102 |
|
| 103 |
> [!WARNING]
|
|
|
|
| 94 |
|
| 95 |
Далее в лидерборде уже строится аналитика этих ответов по типам задач, по целевому классу и тд.
|
| 96 |
|
| 97 |
+
Ещё считаю взвешанный скор. Взвешивание идёт по классу, для которого предназначена задача: задача первого класса оценивается в 1 балл, пятого - в 5 баллов, 7-9 - в 6 баллов и так далее.
|
| 98 |
+
|
| 99 |
### Leaderboard
|
| 100 |
|
| 101 |
WIP...
|
| 102 |
|
| 103 |
+
Пример реальной метрки:
|
| 104 |
+
|
| 105 |
+
| Модель | pass@1 | weighted_pass@1 | arith_pass@1 | logic_pass@1 | geometry_pass@1 |
|
| 106 |
+
|------------|--------|------------------|---------------|---------------|------------------|
|
| 107 |
+
| gemma-3-1b | 0.10148902821316615 | 0.10207932648691802 | 0.08566433566433566 | 0.13664596273291926 | 0.125 |
|
| 108 |
+
|
| 109 |
### Проверка ответов
|
| 110 |
|
| 111 |
> [!WARNING]
|