Skip to content

Commit bf29fcf

Browse files
gsvgitaartdem
authored andcommitted
Evaluation results must be represented as oral presentation (Issue FormalLanguageConstrainedPathQuerying#196). (FormalLanguageConstrainedPathQuerying#199)
1 parent 9fb6542 commit bf29fcf

File tree

2 files changed

+27
-15
lines changed

2 files changed

+27
-15
lines changed

README.md

Lines changed: 5 additions & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -181,8 +181,12 @@
181181
- Для выполнения экспериментов потребуется не только код, но окружение и некоторая его настройка. Соответственно, сдаваемое решение должно сопровождаться инструкциями по настройке окружения и воспроизведению экспериментов. В идеале, это всё должно содержаться в ноутбуке.
182182
- Эксперименты должны быть воспроизводимыми (например, проверяющими).
183183
- В ноутбуке выполняется вся настройка, пишется код для экспериментов, подготовки отчетов и графиков.
184-
- Ноутбук является связанным текстом, описывающим цели эксперимента, методику их проведения, анализ результатов, ответы на поставленные вопросы.
184+
- Ноутбук снабжается связанным текстом, описывающим цели эксперимента, методику их проведения, анализ результатов, ответы на поставленные вопросы.
185185
- Ответы на вопросы должны быть обоснованы (экспериментами), наблюдаемое поведение проанализировано и обосновано.
186+
- Результаты экспериментов представляются в виде презентации в отдельно оговоренный день. На рассказ 5 минут. На вопросы и ответы на них --- 3 минуты.
187+
- Финальная за задачу оценка выставляется по результатам презентации и ответов на вопросы.
188+
- Ровно одна попытка сделать презентацию.
189+
- Качество презентации влияет на итоговую оценку. Рекомендуется, например, изучить разделы "Требования к презентации" и "7.3.4. Чеклист по презентации" из [этого документа](https://github.com/yurii-litvinov/courses/blob/master/additional/practices-guide/practices.pdf).
186190
187191
## Структура репозитория
188192

tasks.md

Lines changed: 22 additions & 14 deletions
Original file line numberDiff line numberDiff line change
@@ -103,9 +103,11 @@
103103

104104
## Задача 5. Экспериментальное исследование алгоритмов для регулярных запросов
105105

106-
Полный балл: 15
106+
Полный балл: 25
107+
108+
Обратите внимание, что это максимальный балл. Реальная оценка может быть снижена, в том числе по результатам презентации.
107109

108-
Задача посвящена анализу производительности алгоритма решения задачи достижимости между всеми парами вершин и с заданным множеством стартовых вершин с регулярными ограничениями через.
110+
Задача посвящена анализу производительности алгоритма решения задачи достижимости между всеми парами вершин и с заданным множеством стартовых вершин с регулярными ограничениями.
109111

110112
Исследуются следующие задачи достижимости, решаемые в предыдущих работах.
111113
- Достижимость между всеми парами вершин.
@@ -117,7 +119,7 @@
117119

118120
Решение данной задачи оформляется как Python notebook. Для того, чтобы обеспечить возможность проверки, необходимо сделать notebook самодостаточным: в него должны быть включены все действия, необходимые для воспроизведения эксперимента. Также в notebook размещается отчет и анализ результатов ваших экспериментов в текстовом виде. Отчет сопровождается диаграммами, таблицами, картинками, если это необходимо для объяснения результатов.
119121

120-
Решением является не просто код, но отчёт об экспериментальном исследовании, который должен являться связанным текстом и содержать (как минимум) следующие разделы:
122+
Решением является не просто код, но отчёт об экспериментальном исследовании, оформленный в виде презентации, который должен являться связанным рассказом и содержать (как минимум) следующие разделы:
121123
- Постановка задачи
122124
- Описание исследуемых решений
123125
- Описание набора данных для экспериментов
@@ -129,7 +131,7 @@
129131
- Результаты экспериментов
130132
- Графики, таблицы
131133
- Анализ результатов экспериментов
132-
- Ответы на поставленные вопросы, аргументация ответов
134+
- Ответы на поставленные вопросы, **аргументация ответов**. Обратите внимание, что "мне кажется", "я думаю" и прочие подобные формулировки аргументами не являются. Необходимы результаты замеров, профилирования, другие цифры.
133135

134136
При постановке экспериментов и базовом анализе результатов не лишним будет воспользоваться [советами отсюда](https://github.com/spbu-se/measurements/blob/main/measurements_cheat_sheet.pdf).
135137
При написании отчёта можно попробовать вдохновиться рекомендациями [отсюда](https://github.com/spbu-se/matmex-diploma-template/blob/master/040_experiment.tex).
@@ -151,12 +153,14 @@
151153
- В запросах должны использоваться все общепринятые конструкции регулярных выражений (замыкание, конкатенация, альтернатива). То есть хотя бы в одном запросе к каждому графу должна быть каждая из этих конструкций.
152154
- [ ] Для генерации множеств стартовых вершин воспользоваться [этой функцией](https://formallanguageconstrainedpathquerying.github.io/CFPQ_Data/reference/graphs/generated/cfpq_data.graphs.utils.multiple_source_utils.html#cfpq_data.graphs.utils.multiple_source_utils.generate_multiple_source). Не забывайте, что от того, как именно устроено стартовое множество, сильно зависит время вычисления запроса.
153155
- [ ] Сформулировать этапы эксперимента. Что нужно сделать, чтобы ответить на поставленные вопросы? Почему?
154-
- [ ] Провести необходимые эксперименты, замеры
155-
- [ ] Оформить результаты экспериментов
156-
- [ ] Провести анализ результатов
157-
- [ ] Ответить на поставленные вопросы
158-
- [ ] Аргументировать ответы (пользуясь полученными результатами экспериментов)
159-
- [ ] Не забыть опубликовать notebook в репозитории
156+
- [ ] Провести необходимые эксперименты, замеры.
157+
- [ ] Оформить результаты экспериментов.
158+
- [ ] Провести анализ результатов.
159+
- [ ] Ответить на поставленные вопросы.
160+
- [ ] Аргументировать ответы (пользуясь полученными результатами экспериментов).
161+
- [ ] Не забыть опубликовать notebook в репозитории.
162+
- [ ] Не забыть подготовить презентацию и выступить с докладом. Проверьте требования из релевантных инструкций. Например, разделы "Требования к презентации" и "7.3.4. Чеклист по презентации" из [этого документа](https://github.com/yurii-litvinov/courses/blob/master/additional/practices-guide/practices.pdf). Обратите внимание, что в вашей презентации фокус на экспериментах.
163+
- [ ] Не забыть выложить презентацию в репозиторий.
160164

161165
## Задача 6. Преобразование грамматики в ОНФХ, алгоритм Хеллингса
162166

@@ -245,7 +249,9 @@
245249

246250
## Задача 10. Экспериментальное исследование алгоритмов решения задачи достижимости с КС ограничениями
247251

248-
Полный балл: 20
252+
Полный балл: 30
253+
254+
Обратите внимание, что это максимальный балл. Реальная оценка может быть снижена, в том числе по результатам презентации.
249255

250256
Задача посвящена анализу производительности различных алгоритмов решения задачи достижимости между всеми парами вершин с контекстно-свободными ограничениями: алгоритма Хеллингса, матричного алгоритма, тензорного алгоритма, алгоритма на основе GLL. В ходе анализа необходимо ответить на следующие вопросы.
251257
- Какой из трёх указанных алгоритмов обладает лучшей производительностью?
@@ -254,8 +260,8 @@
254260

255261
Решение данной задачи оформляется как Python notebook. Для того, чтобы обеспечить возможность проверки, необходимо сделать notebook самодостаточным: в него должны быть включены все действия, необходимые для воспроизведения эксперимента. Также в notebook размещается отчет и анализ результатов ваших экспериментов в текстовом виде. Отчет сопровождается диаграммами, таблицами, картинками, если это необходимо для объяснения результатов.
256262

257-
Решением является не просто код, но отчёт об экспериментальном исследовании, который должен являться связанным текстом и содержать (как минимум) следующие разделы:
258-
- Постановка задачи
263+
Решением является не просто код, но отчёт об экспериментальном исследовании, оформленный в виде презентации, который должен являться связанным рассказом и содержать (как минимум) следующие разделы:
264+
- Постановка задачи (исследовательские вопросы)
259265
- Описание исследуемых решений
260266
- Описание набора данных для экспериментов
261267
- Графы
@@ -266,7 +272,7 @@
266272
- Результаты экспериментов
267273
- Графики, таблицы
268274
- Анализ результатов экспериментов
269-
- Ответы на поставленные вопросы, аргументация ответов
275+
- Ответы на поставленные вопросы, **аргументация, обоснование ответов**. Обратите внимание, что "мне кажется", "я думаю" и прочие подобные формулировки аргументами не являются. Необходимы результаты замеров, профилирования, другие цифры.
270276

271277
- [ ] Создать Python notebook, подключить необходимые зависимости.
272278
- [ ] Подключить необходимые решения из предыдущих работ.
@@ -280,6 +286,8 @@
280286
- [ ] Ответить на поставленные вопросы
281287
- [ ] Аргументировать ответы (пользуясь полученными результатами экспериментов)
282288
- [ ] Не забыть опубликовать notebook в репозитории
289+
- [ ] Не забыть подготовить презентацию и выступить с докладом. Проверьте требования из релевантных инструкций. Например, разделы "Требования к презентации" и "7.3.4. Чеклист по презентации" из [этого документа](https://github.com/yurii-litvinov/courses/blob/master/additional/practices-guide/practices.pdf). Обратите внимание, что в вашей презентации фокус на экспериментах.
290+
- [ ] Не забыть выложить презентацию в репозиторий.
283291

284292
## Задача 11. Язык запросов к графам
285293

0 commit comments

Comments
 (0)