Звіт про систематичний відбір (PRISMA 2020 Flow)
Прозорий звіт про всі етапи воронки відбору статей: виявлення академічними реєстрами, скринінг префільтром LLM, повнотекстова оцінка придатності та включення до синтезу з експертною валідацією.
✓ Математичний баланс воронки PRISMA збережено (100% замикання стадій)
Повна відсутність витоку даних: n_вхід = n_вихід + ∑n_вилучено + n_очікує на кожному етапі виявлення, скринінгу, придатності та синтезу.
ID: 58 →
Screen: 54 →
Eligible: 58 →
Included: 4
Експертна валідація та верифікація (Петля смаку / Expert Taste Loop)
Окремо від воронки формальних правил відбору PRISMA: редакційні вердикти автора дайджесту для калібрування якості та активного навчання префільтру.
👍 2
Схвалено у випусках
(2 всього у корпусі)
👎 1
Відхилено з фіксацією причини
(0 до / 1 після аналізу)
Розподіл причин відхилення експертом:
not_novel: 1
📋 Структуроване резюме огляду (PRISMA 2020: пункт 2 — Structured Summary)
Фон (Background): Живий систематичний огляд застосування великих мовних моделей (LLM) та автономних агентів у вищій освіті. Досліджуються інженерні контрзаходи академічної недоброчесності та переосмислення дизайну оцінювання.
Цілі (Objectives): Систематичне виявлення, скринінг та синтез емпіричних доказів щодо надійності, методологічної строгості та викликів усталеному консенсусу в інтеграції GenAI в університетські курси.
Критерії придатності (Eligibility): Статті з наявним повнотекстовим Open Access (PDF/HTML); тематична релевантність R ≥ 4.0; зважений підсумковий бал Score ≥ 5.0.
Джерела інформації (Information Sources): Мультиреєстровий моніторинг: arXiv, Crossref, OpenAlex, Semantic Scholar, ERIC, а також ланцюжки цитувань (forward/backward citation depth 1–2).
Оцінка ризику упередженості (Risk of Bias): Комплексна метрика методологічної строгості (M, 0–10). Валідація відбору на базі подвійної оцінки: Gwet's AC1, стратифікована повнота та ROC AUC.
Синтез та включення (Synthesis): Включено n = 4 верифікованих робіт до постійного огляду із синтезом висновків, обмежень та емпіричних доказів.
🎯 Специфікація пошуку за схемою PICO / PECO (PRISMA 2020: пункти 4–5)
| Компонент | Визначення в протоколі | Критерії включення / виключення |
|---|---|---|
| P (Population) | Вища освіта: університети, коледжі, студенти бакалаврату/магістратури, викладачі та екзаменатори. | Включено: вища та професійна освіта. Виключено: виключно K-12 початкова школа без переносу методології на HE. |
| I / E (Intervention / Exposure) | Застосування сучасних LLM (GPT-4, Claude, Gemini, Llama) та агентських систем для генерації, вирішення тестів, підказок або оцінювання. | Включено: емпіричне тестування та інтеграція LLM. Виключено: загальне символьне AI або застарілий ML без зв'язку з GenAI. |
| C (Comparator) | Традиційні формати оцінювання без ШІ, людська продуктивність або порівняння різних інженерних захистів (guardrails, multi-agent validation). | Включено: наявність бейзлайну, порівняльних когорт або контрзаходів. Виключено: абстрактні оглядові есе без порівняльної бази. |
| O (Outcomes) | Ефективність завдань, проникність екзаменів ШІ, надійність інженерних контрзаходів, зміна критеріїв оцінювання, когнітивні ефекти. | Включено: емпіричні метрики точності, стійкості, складності або психометрії. Виключено: декларативні твердження без верифікації. |
| S (Study Design) | Емпіричні дослідження: контрольовані експерименти (RCT), квазі-експерименти, кейс-стаді, психометричний аналіз, бенчмарки. | Включено: наукові статті з емпіричними даними. Виключено: публіцистичні блоги, прес-релізи, посібники користувача. |
* Зноска: Математична модель префільтрації, показники та формула оцінювання (рубрика v2.3)
Показники та параметри рубрики
| Символ | Критерій оцінювання | Вага / Значення |
|---|---|---|
| M | Методологічна строгість (Methodological Rigor) | wM = 0.32 |
| E | Інженерні контрзаходи (Engineering Countermeasures) | wE = 0.25 |
| C | Виклик консенсусу (Consensus Challenge) | wC = 0.43 |
| N | Новизна (Novelty) | wN = 0.00 |
| R | Тематична релевантність (Topic Relevance, 0–10) | Rmin = 4.0, Rfull = 7.0 |
| Gate | Тематичний бар'єр (Binary Scope Gate) | PASS / FAIL |
| Поріг | Поріг допуску до повнотекстового аналізу | Score ≥ 5.0 |
Релевантність R є мультиплікатором, а не доданком: робота з R < R_min негайно обнуляється, а відмінна робота поза темою не може обійти профільне дослідження.
Математичні формули оцінки (MathML Core)
1. Підсумковий бал префільтрації (Score):
2. Зважена якість за критеріями рубрики (Q):
3. Логічний критерій відсіювання на скринінгу:
Методологія та звітність (PRISMA 2020: пункти 1–15, 23–27)
Тип огляду, мета, критерії (1, 3–5)
Living systematic review: щоденно поповнюваний огляд за автоматизованим відбором. Це інструмент відбору літератури, а не опублікований огляд з мета-аналізом.
Тема (запит до моделі): Validity of educational assessment under generative AI and how to keep it (AI-resistant / AI-resilient assessment). Core: how generative AI changes what grades and test scores mean (validity arguments in the sense of Kane and Messick), assessment redesign, and quantitative methods that detect or model the distortion in assessment and learning data: item response theory, differential item functioning between humans and LLMs, item parameter drift, rater drift, item compromise and preknowledge, score shifts under unsupervised or online conditions (proctored vs unproctored exams, cheating, grade inflation), change-point and concept-drift detection, LLMs as test takers or raters, computerized adaptive testing and automated test assembly. Computational, statistical and engineering work is preferred, but a solid conceptual or empirical education study of assessment under generative AI belongs here too. Detectors of AI-generated text and watermarking are only adjacent to the topic. The audience is university educators and researchers: work about primary and secondary school (K-12) is off topic unless its findings or methods clearly transfer to higher education.
- Включення: наукова стаття з тематичним балом R ≥ 4.0, підсумковий бал ≥ 5.0; доступний легальний повний текст (open access), який прочитано.
- Виключення: не-статті (датасети, код, errata), дублікати й препринти опублікованих робіт, відкликані роботи, K-12 без переносу на вищу освіту, роботи без повного тексту (paywall, помилки завантаження), відхилені експертом (👎, причина фіксується).
- Ручні додавання (origin = manual) обходять бальний скринінг, але проходять оцінку придатності.
Джерела та дата останнього звернення (6)
| Канал | Записів | Останній запис |
|---|---|---|
search — arXiv, OpenAlex, Semantic Scholar, ERIC | 11690 | 2026-10-29 14:22 |
ref — список літератури прочитаних робіт | 1657 | 2026-10-29 14:23 |
manual — додано вручну | 27 | 2026-10-07 12:05 |
Метадані кандидатів із цитувань беруться з OpenAlex; Crossref/Unpaywall — для DOI, версій і відкритих PDF.
Пошукова стратегія (7)
Поточна версія пошуку: v1.0. Робота збігається, якщо в назві чи абстракті є термін з УСІХ груп хоча б одного запиту (АБО всередині групи; без урахування регістру, межі слів).
Запити (групи):
education × ai; psychometrics × ai; integrity × education; drift × education; drift × psychometrics
education: education, educational, student, learner, teacher, lecturer, classroom, university, higher education, school, curriculum, assessment, exam, examination, examinee, test taker, test score, grading, homework, coursework, online course, essay, academic integrity, academic misconduct, plagiarism, cheating, e-learning, MOOC
ai: generative AI, GenAI, large language model, LLM, ChatGPT, GPT-4, chatbot, AI-generated, AI-assisted, AI-resistant, AI-resilient, AI tool, artificial intelligence
integrity: proctoring, proctored, unproctored, non-proctored, remote proctoring, online exam, online test, online testing, exam integrity, testing integrity, academic integrity, academic dishonesty, cheating, contract cheating, grade inflation
psychometrics: item response theory, IRT, Rasch, psychometric, educational measurement, educational testing, differential item functioning, computerized adaptive testing, adaptive testing, automated test assembly, knowledge tracing, automated scoring, automated essay scoring, validity argument, construct validity, assessment validity, predictive validity
drift: parameter drift, dynamic item response, item parameter drift, rater drift, severity drift, concept drift, change point, change-point detection, item compromise, preknowledge, item exposure, test security, aberrant response, person-fit, differential item functioning
Фрази Semantic Scholar: assessment validity generative AI; AI-resilient assessment higher education; AI-resistant assessment design; generative AI exam performance natural experiment; differential item functioning large language models humans; LLM as test taker item response theory; proctored versus unproctored online exam scores; generative AI grade inflation; item parameter drift detection; item compromise preknowledge detection; concept drift knowledge tracing; change point detection educational testing
arXiv: cs.CY, cs.CL, cs.HC, cs.AI, cs.LG, stat.AP, stat.ME. Ліміти результатів на запит: OpenAlex 50, Semantic Scholar 25, ERIC 25. Цитування: глибина 1 від прочитаних і 👍, глибина 2 лише від 👍; сусіди 👍-робіт оминають лексичний фільтр.
| Версія пошуку | Записів (search) | Перший | Останній |
|---|---|---|---|
v1.0 | 11690 | 2026-10-06 | 2026-10-29 |
Процес відбору та автоматизація (8, 9, 11)
- Скринінг анотацій: один автоматичний «рецензент» — LLM (gemini-3.1-flash-lite, gemini-3.5-flash-lite), пачки по 20, моделі чергуються; кожна оцінка зберігається (prefilter_evaluations) з моделлю й версією рубрики.
- Повнотекстовий аналіз і збір даних: gemini-3.8-flash, gemini-3.7-flash, gemini-3.6-flash, prompt
v2.1. Тільки після конвертації PDF у Markdown; без тексту модель не викликається. - Перевірка: кожну цитату код звіряє з текстом (точний збіг після нормалізації); непідтверджені твердження відкидаються.
- Людина: незалежної другої оцінки немає. Власник виносить вердикти 👍/👎 на вибірці кандидатів (50% біля порога, 30% найвищі, 20% випадкові); вони впливають на чергу й few-shot, але не змінюють бал.
- Дані, що збираються (10): суть, метод/дані/вибірка, твердження, обмеження, тип дизайну (assessment_design, psychometric_modeling, natural_experiment, detector_evaluation, survey, rct, quasi_experiment, qualitative, theoretical, review, other), теги, критерії рубрики.
- Ризик упередженості (11): не оцінювався формально (RoB, GRADE не застосовуються); критерій M «методологічна строгість» (0–10) — ранжувальна оцінка, а не інструмент RoB. Ефектів і мета-аналізу (12, 13d–f, 15) не обчислюється: синтез — якісний, у вигляді розборів статей і тегів.
| Модель скринінгу | Оцінено |
|---|---|
gemini-3.1-flash-lite | 6362 |
gemini-3.5-flash-lite | 5824 |
— | 461 |
| Модель аналізу | prompt | Розборів |
|---|---|---|
gemini-3.1-flash-lite | v2.1 | 275 |
gemini-3.6-flash | v2.1 | 104 |
gemini-3.8-flash | v2.1 | 87 |
gemini-3.7-flash | v2.1 | 80 |
Рубрика оцінювання v2.3 (якорі 0–10)
Модель ставить оцінку 0–10 за кожним критерієм; якорі нижче вбудовані в промпт. Формула й ваги — у зносці вище. Зміна якорів чи ваг без нової версії блокується хешем.
| Критерій | Вага | 2 | 5 | 8 |
|---|---|---|---|---|
| Тематична релевантність (R) | × min(1, R/7.0) | No link to education or assessment: image, audio or model watermarking, model IP protection, general NLP benchmarks, AI in industry. | Adjacent: generative AI in education without an assessment focus; academic integrity with no evidence on assessment outcomes; detectors of AI-generated text or of student AI use; general psychometrics (adaptive testing, test assembly, IRT) with no drift, validity or AI angle. | Core: validity of assessment under generative AI (what grades and scores mean when AI is available); how grades shift under unsupervised conditions or cheating (proctored vs unproctored exams, grade inflation); AI-resistant or AI-resilient assessment design; quantitative methods that detect or model distorted assessment or learning data (DIF between humans and LLMs, item parameter or rater drift, item compromise/preknowledge, change-point or concept-drift detection, LLMs as test takers or raters). |
| Методологічна строгість (M) | 0.32 | Vague evaluation, convenience sample of a few dozen, self-report only, no control group or baseline. | Clear dataset or sample (hundreds), standard metrics or validated instruments, comparison with baselines or a control group. | Randomized/controlled or preregistered, large or multi-site/multilingual data, adversarial or robustness checks, effect sizes with uncertainty. |
| Інженерні контрзаходи (E) | 0.25 | No method or countermeasure: describes impact, attitudes or policy only. | A concrete method or countermeasure with an evaluation: statistical test or model, detector, scoring procedure, or an assessment design tried on real cohorts. | A rigorous, reusable method: formal model with guarantees or error control, open code, validated on both real and simulated data. |
| Виклик консенсусу (C) | 0.43 | Reconfirms standard wisdom. | Nuances the consensus (e.g. detectors fail under mild paraphrasing; AI use does not harm an outcome it is assumed to harm). | Directly refutes high-profile claims with rigorous evidence. |
| Новизна (N) | 0.00 | Replicates well-known findings (another survey of student attitudes to ChatGPT, another test of one detector on a handful of prompts). | New dataset, benchmark, population or setting, or a previously untried technique. | Fundamentally new attack or defence, a theoretical/impossibility result, or a finding that changes how the field frames the problem. |
Оцінки між якорями інтерполюються моделлю. Бал глибокого аналізу рахує код за тією ж формулою з criteria_breakdown.
| Версія рубрики | Оцінено робіт |
|---|---|
v2.0 | 261 |
v2.1 | 183 |
v2.2 | 20 |
v2.3 (поточна) | 12183 |
Валідація скринінгу: вимірювання надійності та згоди
Еталон — вердикти 👍/👎 експерта. Обчислюються повні метрики систематичних оглядів PRISMA: повнота, специфічність, NPV, F₁, F₂, ROC AUC, DOR, парадокс-імунна Gwet's AC₁ та згода балів.
| Показник | Значення | Що це означає |
|---|---|---|
| Повнота на seed-наборі | 50% (1/2), 95% CI 9–91% | Частка 👍-робіт, доданих вручну (в обхід скринінгу), чий бал ≥ порога 5.0. Незміщена оцінка чутливості на цьому наборі. |
| Оцінена повнота корпусу | 100% (100–100%) | Постстратифікація за смугами балу з оціночних вердиктів; консервативний інтервал. Пропущено релевантних ≈ 0 (0–0). Не оцінено (мало вердиктів у смузі): 10616 відсіяних робіт. |
| Чутливість (Sensitivity / Recall) | 100% (12/12), 95% CI 76–100% | Частка релевантних (👍), успішно пропущених скринінгом: TP / (TP + FN). |
| Специфічність (Specificity) | 20% (4/20), 95% CI 8–42% | Частка нерелевантних (👎), успішно відсіяних скринінгом: TN / (TN + FP). |
| Точність (Precision / PPV) | 43% (12/28), 95% CI 27–61% | Частка схвалених експертом серед тих, що пройшли скринінг: TP / (TP + FP). |
| Негативна прогностична цінність (NPV) | 100% (4/4), 95% CI 51–100% | Частка справді нерелевантних серед робіт, відсіяних скринінгом: TN / (TN + FN). Мінімізує ризик втрати цінних робіт. |
| F-міри (F₁ та F₂) | F₁: 0.60 · F₂: 0.79 | F₂ надає ваги повноті (чутливості) вдвічі більше за точність — ключова метрика безпеки відсіювання для PRISMA. |
| Збалансована точність | 60.0% | Середнє арифметичне чутливості та специфічності ((Sens + Spec) / 2), нечутливе до дисбалансу класів. |
| Діагностичне відношення шансів (DOR) | 6.82 | DOR = (TP · TN) / (FP · FN) із поправкою Haldane-Anscombe. Міра загальної дискримінаційної спроможності скринінгу. |
| ROC AUC | 0.65 (95% CI 0.43–0.84) | Імовірність, що 👍-робота отримала вищий бал, ніж 👎 (0,5 = випадково). Довірчий інтервал обчислено DeLong / Bootstrap. |
| Надійність згоди (Gwet's AC₁ та Cohen's κ) | — | Gwet's AC₁ є парадокс-імунною мірою згоди між моделями на спільних статтях, що не занижується при сильному дисбалансі класів (коли 80–90% відсіюється). |
| Неперервна згода балів моделей |
MAD: — r Пірсона: — |
MAD (середня абсолютна різниця балів) та кореляція Пірсона r між оцінками моделей скринінгу на спільній вибірці. |
| Смуга балу | Робіт | З вердиктом | 👍 | Частка 👍 |
|---|---|---|---|---|
| 0.0–2.0 | 6772 | 2 (замало) | 0 | 0% |
| 2.0–4.0 | 2929 | 0 (замало) | 0 | — |
| 4.0–5.0 | 915 | 2 (замало) | 0 | 0% |
| 5.0–6.0 ✓ | 1080 | 3 | 2 | 67% |
| 6.0–8.0 ✓ | 861 | 23 | 8 | 35% |
| 8.0–10.0 ✓ | 27 | 2 (замало) | 2 | 100% |
| Модель скринінгу | Seed-повнота | AUC | Sens / Spec | Prec / NPV | F₁ / AC₁ | 👍 / 👎 (TP/FP/FN/TN) |
|---|---|---|---|---|---|---|
gemini-3.1-flash-lite |
50% (1/2), 95% CI 9–91% | 0.63 | 100% (12/12), 95% CI 76–100% / 16% (3/19), 95% CI 6–38% | 43% (12/28), 95% CI 27–61% / 100% (3/3), 95% CI 44–100% | 0.60 / 0.05 | 12 / 19 (12/16/0/3) |
gemini-3.5-flash-lite |
— | — | — / 100% (1/1), 95% CI 21–100% | — / 100% (1/1), 95% CI 21–100% | — / 1.00 | 0 / 1 (0/0/0/1) |
— |
— | — | — / — | — / — | — / — | 0 / 0 (0/0/0/0) |
Щоб звузити інтервали, оцінюйте роботи з нижніх смуг: вибірка кандидатів у /admin/taste бере 20% випадкових робіт. Оцінки оновлюються автоматично з кожним вердиктом.
Оцінка методологічної строгості та розподіл дизайнів (11, 18)
Критерій строгості M (0–10) оцінюється під час повнотекстового аналізу. Розподіл дизайнів базується на верифікованій класифікації емпіричних робіт.
Середня строгість (M)
5.66 / 10
Проаналізовано робіт: 58
Розподіл рівнів строгості
🟢 Висока строгість (M ≥ 7.0): 15
🟡 Помірна строгість (4.0 ≤ M < 7.0): 40
🔴 Низька строгість (M < 4.0): 3
| Дизайн дослідження (Study Design) | Кількість робіт |
|---|---|
rct | 2 |
assessment_design | 18 |
theoretical | 5 |
other | 2 |
quasi_experiment | 6 |
detector_evaluation | 14 |
natural_experiment | 1 |
qualitative | 5 |
review | 2 |
psychometric_modeling | 1 |
survey | 2 |
Чек-лист відповідності PRISMA 2020 (усі 27 пунктів)
Повний аудит відповідності огляду чек-листу PRISMA 2020 (Page et al., 2021) для автоматизованих систематичних оглядів.
| № | Розділ / Пункт | Вимога чек-листа | Статус | Реалізація в системі |
|---|---|---|---|---|
| 1 | Title | Ідентифікація як живий систематичний огляд | ✓ Впроваджено | Заголовок сторінки, метадані звіту |
| 2 | Abstract | Структуроване резюме (фон, цілі, методи, результати) | ✓ Впроваджено | Блок #prisma-abstract (пункт 2 вище) |
| 3 | Rationale | Обґрунтування огляду в контексті існуючих знань | ✓ Впроваджено | Опис теми, цілей та потреби в контрзаходах |
| 4 | Objectives | Чітке формулювання питань за схемою PICO / PECO | ✓ Впроваджено | Блок #pico-framework (таблиця PICO вище) |
| 5 | Eligibility criteria | Критерії включення та виключення, мова, дати | ✓ Впроваджено | Пороги R ≥ 4.0, Score ≥ 5.0, Open Access |
| 6 | Information sources | Бази даних, реєстри, дати останнього запиту | ✓ Впроваджено | arXiv, Crossref, OpenAlex, Semantic Scholar, ERIC, цитування |
| 7 | Search strategy | Повна стратегія пошуку, булеві оператори, версії | ✓ Впроваджено | search_version, повні групи термінів, API limits |
| 8 | Selection process | Процес скринінгу, автоматизація, дублювання оцінок | ✓ Впроваджено | LLM скринінг з ротацією моделей + редакційна петля смаку |
| 9 | Data collection | Методи отримання даних з повнотекстових звітів | ✓ Впроваджено | PDF → Markdown парсинг, deep analysis prompt v2.1 |
| 10a-b | Data items | Перелік змінних, результатів та характеристик | ✓ Впроваджено | Суть, вибірка, дизайн, емпіричні твердження, контрзаходи |
| 11 | Study risk of bias | Оцінка методологічної якості досліджень | ✓ Впроваджено | Критерій строгості M (0–10), розподіл рівнів якості |
| 12 | Effect measures | Міри величини ефекту (RR, OR, MD) | — Обґрунтовано N/A | Якісний синтез та живий дайджест без мета-аналізу ефектів |
| 13a-f | Synthesis methods | Критерії об'єднання та методи синтезу | ✓ Впроваджено | Тематична кластеризація за тегами, порівняльні картки |
| 14 | Reporting bias | Оцінка зміщення звітності (публікаційне зміщення) | ✓ Впроваджено | Аналіз Paywall-виключень та відкритого доступу |
| 15 | Certainty assessment | Оцінка впевненості у доказах | ✓ Впроваджено | Автоматична верифікація цитат із тексту робіт |
| 16 | Study selection | Результати відбору (PRISMA воронка, числа) | ✓ Впроваджено | 100% замикання стадій: n_вхід = n_вихід + ∑n_вилучено |
| 17 | Study characteristics | Характеристики включених робіт у таблиці | ✓ Впроваджено | Інтерактивна таблиця з DOI, журналами, роками та тегами |
| 18 | Risk of bias in studies | Результати оцінки ризику упередженості | ✓ Впроваджено | Таблиця розподілу строгості M та дизайнів досліджень |
| 19 | Results of individual studies | Результати для кожної окремої статті | ✓ Впроваджено | Публічні сторінки /doi/{doi} з повними розборами |
| 20a-d | Results of syntheses | Результати тематичного синтезу | ✓ Впроваджено | Щоденні випуски дайджесту, RSS-канал, тегові вибірки |
| 21 | Reporting biases | Фактичні дані щодо виявлених зміщень | ✓ Впроваджено | Paywall n=0, відкликані n=0 |
| 22 | Certainty of evidence | Підсумкова надійність масиву доказів | ✓ Впроваджено | Gwet's AC₁, Cohen's κ, стратифікована повнота та ROC AUC |
| 23a-d | Discussion | Обговорення, обмеження методів та висновки | ✓ Впроваджено | Блок обмежень (пункти 23b, 23c) у методології |
| 24a-c | Registration & protocol | Реєстрація, доступ до протоколу, зміни | ✓ Впроваджено | Відкритий репозиторій, журнал версій search_ver та рубрик |
| 25 | Support | Джерела фінансування огляду | ✓ Впроваджено | Безкоштовні відкриті рівні API (Gemini/OpenAlex) |
| 26 | Competing interests | Заява про конфлікт інтересів | ✓ Впроваджено | Конфлікти відсутні, зафіксовано в методології |
| 27 | Data & code availability | Доступність даних аналізів, коду та матеріалів | ✓ Впроваджено | Експорт у CSV / JSON (кнопки нижче), відкритий код |
Обмеження (23b, 23c)
- Лише open access: платні статті не потрапляють до синтезу, тож вибірка зміщена в бік відкритих і препринтів.
- Скринінг ранжує за якістю й новизною, а не лише за придатністю, тож вибірка зміщена до робіт, що оскаржують консенсус. Валідність виміряно щодо одного експерта (див. вище); один LLM-рецензент, упередження моделей і різниця між версіями лишаються.
- Лексичний фільтр і ліміти результатів можуть пропускати роботи з іншою термінологією; англомовне зміщення джерел.
- Записи, оцінені давнішою версією рубрики, не перераховуються автоматично (див. таблицю версій).
- Безкоштовна квота Gemini: денні ліміти уповільнюють аналіз, частина відібраних робіт чекає в черзі.
Реєстрація, протокол, зміни, підтримка, дані (24–27)
- Реєстрація: огляд не реєструвався. Протокол — це конфігурація (тема, запити, рубрика, пороги) у репозиторії проєкту; вона відтворюється з цього блоку.
- Зміни протоколу: версії пошуку (search_version) і рубрики (rubric_version), таблиці вище.
- Фінансування: окремого не заявлено, використовуються безкоштовні рівні API. Конфлікти інтересів: не заявлено.
- Дані: аналізи й метадані — на сторінках статей, RSS і sitemap; повні тексти приватні (авторське право) і не публікуються.
Фільтрація за тегами
Виберіть один або декілька тегів для деталізації звіту та перегляду списку статей.
ℹ️ <strong>Примітка щодо тематичної вибірки:</strong> Тематичні теги формуються моделями під час повнотекстового аналізу або редактором вручну. Тому фільтрація за тегами фокусує таблицю та воронку на відповідній розміченій підмножині робіт.
#psychometrics (96)
#Psychometrics (52)
#Item Response Theory (39)
#academic integrity (38)
#item response theory (33)
#assessment validity (28)
#Assessment Validity (25)
#higher education (25)
#IRT (24)
#construct validity (23)
#Automated Essay Scoring (21)
#automated essay scoring (20)
#Generative AI (19)
#Construct Validity (18)
#generative AI (17)
#LLM as rater (16)
#assessment_design (16)
#Academic Integrity (14)
×
#Automated Scoring (14)
#Higher Education (14)
#LLM Evaluation (13)
#Large Language Models (13)
#assessment design (13)
#automated assessment (13)
#AI-resilient assessment (11)
#academic_integrity (11)
#assessment redesign (11)
#assessment-validity (11)
#assessment_validity (11)
#benchmarking (11)
#large language models (11)
#LLM-as-a-judge (10)
#automated scoring (10)
#item_response_theory (10)
#validity (10)
#ChatGPT (9)
#DIF (9)
#GPT-4 (9)
#Inter-Rater Reliability (9)
#LLM as Rater (9)
#LLM evaluation (9)
#LLMs as Test Takers (9)
#concept drift (9)
#differential item functioning (9)
#AI-resistant assessment (8)
#Assessment Design (8)
#Knowledge Tracing (8)
#LLMs as raters (8)
#Prompt Engineering (8)
#construct_validity (8)
#prompt engineering (8)
#rater drift (8)
#AI-Resilient Assessment (7)
#Assessment Redesign (7)
#Automated Item Generation (7)
#Computer Science Education (7)
#Computerized Adaptive Testing (7)
#Validity (7)
#computerized adaptive testing (7)
#higher_education (7)
Скинути теги
| # | Статус / Етап | Стаття | LLM Оцінка | Оцінка експерта |
|---|---|---|---|---|
| 1 | У буфері |
Criminal Minds: How First-Year CS Students Plagiarize Code
ACM Joint European Software Engineering Conference and Symposium on the Foundations of Software Engineering (ESEC/FSE) (2026) · doi:10.1145/3803437.3805789 · v1.0 |
4.1 (gemini-3.6-flash) | — |
| 2 | У буфері |
Multiple-choice questions as a means of assessment in the face of generative AI: a Python analysis of master’s students’ perceptions
International Journal of Scientific Research and Innovative Studies (2026) · doi:10.63883/ijsrisjournal.v5i5.986 · v1.0 |
5.2 (gemini-3.6-flash) | — |
| 3 | У буфері |
Artificial intelligence in educational assignments: issues of academic integrity
Frontiers in Computer Science (2026) · doi:10.3389/fcomp.2026.1729059 · v1.0 |
1.6 (gemini-3.8-flash) | — |
| 4 | У буфері |
Development of an Explainable Artificial Intelligence Framework for Academic Integrity, Inclusive Learning, and Quality Assurance in Digital Higher Education
arXiv/Crossref (2026) · doi:10.64823/ijcsa.2601005 · v1.0 |
0.0 (gemini-3.6-flash) | — |
| 5 | У буфері |
Recommendations to Create Programming Exercises to Overcome ChatGPT
arXiv/Crossref (2023) · doi:10.1109/cseet58097.2023.00031 · v1.0 |
5.1 (gemini-3.6-flash) | — |
| 6 | У буфері |
CodeAid: Evaluating a Classroom Deployment of an LLM-based Programming Assistant that Balances Student and Educator Needs
CHI Conference on Human Factors in Computing Systems (2024) · doi:10.1145/3613904.3642773 · v1.0 |
3.5 (gemini-3.8-flash) | — |
| 7 | У буфері |
Nutzung von KI im Studium? Gelebter Diskurs und Perspektiven
Zenodo (CERN European Organization for Nuclear Research) (2026) · doi:10.5281/zenodo.22013075 · v1.0 |
5.7 (gemini-3.6-flash) | — |
| 8 | У буфері |
A Measurement Perspective on Benchmarking LLM-Generated Text Detectors using Item Response Theory
arXiv (2026) · doi:10.48550/arxiv.2610.24972 · v1.0 |
4.0 (gemini-3.8-flash) | — |
| 9 | У буфері |
From verification to reconciliation: Assessable competences for AI-assisted evidence synthesis, with a semester course and an intensive format
Zenodo (CERN European Organization for Nuclear Research) (2026) · doi:10.5281/zenodo.22231268 · v1.0 |
6.6 (gemini-3.8-flash) | — |
| 10 | У буфері |
Comparing Gamified and Traditional Assessment Environments: A Quasi-Experimental Study in a University Python Course
Journal of Applied Technical and Educational Sciences (2026) · doi:10.24368/jates418 · v1.0 |
2.6 (gemini-3.6-flash) | — |
| 11 | У буфері |
Effectiveness of AI-Generated Study Materials versus Traditional Teaching Methods in Higher Education
Zenodo (CERN European Organization for Nuclear Research) (2026) · doi:10.5281/zenodo.22720206 · v1.0 |
1.8 (gemini-3.6-flash) | — |
| 12 | У буфері |
Perception, performance, and detectability of conversational artificial intelligence across 32 university courses
Scientific Reports (2023) · doi:10.1038/s41598-023-38964-3 · v1.0 |
5.7 (gemini-3.6-flash) | — |
| 13 | У буфері |
Measurement Validity of AI-Text Detection in Turkish Academic Writing: Temporal, Provider, and Intervention Shifts
Scientific journal of Mehmet Akif Ersoy University. (2026) · doi:10.70030/sjmakeu.2033004 · v1.0 |
3.7 (gemini-3.8-flash) | — |
| 14 | У буфері |
AIRRI: Towards a Human-Readable, Machine-Resistant Reading Interface
arXiv (2026) · doi:10.48550/arxiv.2610.18724 · v1.0 |
3.2 (gemini-3.8-flash) | — |
| 15 | У буфері |
AI Agents Can Now Navigate and Complete LMS Tasks: A Call for Pedagogical Innovation
Intersection A Journal at the Intersection of Assessment and Learning (2026) · doi:10.61669/001c.169225 · v1.0 |
5.4 (gemini-3.7-flash) | — |
| 16 | У буфері |
Beyond Detection: Designing AI-Resilient Assessments with Automated Feedback Tool to Foster Critical Thinking
arXiv (2025) · doi:10.48550/arxiv.2503.23622 · v1.0 |
3.9 (gemini-3.7-flash) | — |
| 17 | У буфері |
Watching the watchers: bias and vulnerability in remote proctoring software
arXiv (2022) · doi:10.48550/arxiv.2205.03009 · v1.0 |
7.2 (gemini-3.7-flash) | — |
| 18 | У буфері |
A Picture Is Worth a Thousand Words: Exploring Diagram and Video-Based OOP Exercises to Counter LLM Over-Reliance
arXiv (2024) · doi:10.48550/arxiv.2403.08396 · v1.0 |
3.7 (gemini-3.7-flash) | — |
| 19 | У буфері |
Keystroke Dynamics Against Academic Dishonesty in the Age of LLMs
arXiv (2024) · doi:10.48550/arxiv.2406.15335 · v1.0 |
5.2 (gemini-3.6-flash) | — |
| 20 | У буфері |
Correctness, Convergence, and AI-Generated Code Detection: A Longitudinal Study of Student and Large Language Model Code in Introductory Programming
arXiv (2026) · doi:10.1145/3856208.3856226 · v1.0 |
6.9 (gemini-3.6-flash) | — |
| 21 | У буфері |
Generative AI Misuse Potential in Cyber Security Education: A Case Study of a UK Degree Program
arXiv (2025) · doi:10.48550/arxiv.2501.12883 · v1.0 |
4.1 (gemini-3.7-flash) | — |
| 22 | У буфері |
Human-AI Collaboration or Academic Misconduct? Measuring AI Use in Student Writing Through Stylometric Evidence
arXiv (2025) · doi:10.30191/ets.202604_29(2).rp06 · v1.0 |
4.1 (gemini-3.6-flash) | — |
| 23 | У буфері |
The AI Assessment Scale (AIAS) in Action: A Pilot Implementation of GenAI-Supported Assessment
Australasian Journal of Educational Technology (2024) · doi:10.14742/ajet.9434 · v1.0 |
4.7 (gemini-3.7-flash) | — |
| 24 | У буфері |
Watermark in the Classroom: A Conformal Framework for Adaptive AI Usage Detection
arXiv (2025) · doi:10.48550/arxiv.2507.23113 · v1.0 |
4.3 (gemini-3.8-flash) | — |
| 25 | У буфері |
Challenges for AI in Multimodal STEM Assessments: a Human-AI Comparison
arXiv (2025) · doi:10.48550/arxiv.2507.03013 · v1.0 |
5.3 (gemini-3.6-flash) | — |
| 26 | У буфері |
Can AI Recognize Its Own Reflection? Self-Detection Performance of LLMs in Computing Education
arXiv (2025) · doi:10.48550/arxiv.2512.23587 · v1.0 |
5.2 (gemini-3.1-flash-lite) | — |
| 27 | У буфері |
GhostCite: A Large-Scale Analysis of Citation Validity in the Age of Large Language Models
arXiv (2026) · doi:10.48550/arxiv.2602.06718 · v1.0 |
3.4 (gemini-3.7-flash) | — |
| 28 | У буфері |
Can Theory-Informed Message Framing Drive Honest and Motivated Performance with Better Assessment Experiences in a Remote Assessment?
arXiv (2026) · doi:10.48550/arxiv.2602.04450 · v1.0 |
5.8 (gemini-3.1-flash-lite) | — |
| 29 | У буфері |
CodeGuard: Improving LLM Guardrails in CS Education
arXiv (2026) · doi:10.48550/arxiv.2602.02509 · v1.0 |
4.6 (gemini-3.6-flash) | — |
| 30 | У буфері |
When old becomes new: a case study of oral examination as an online assessment tool
Assessment & Evaluation in Higher Education (2020) · doi:10.1080/02602938.2020.1730301 · v1.0 |
5.0 (gemini-3.1-flash-lite) | — |
| 31 | У буфері |
A real-world test of artificial intelligence infiltration of a university examinations system: A “Turing Test” case study
PLoS ONE (2024) · doi:10.1371/journal.pone.0305354 · v1.0 |
7.0 (gemini-3.1-flash-lite) | — |
| 32 | У буфері |
Can large language models write reflectively
Computers and Education Artificial Intelligence (2023) · doi:10.1016/j.caeai.2023.100140 · v1.0 |
5.8 (gemini-3.1-flash-lite) | — |
| 33 | Включено |
StyleShield: Exposing the Fragility of AIGC Detectors through Continuous Controllable Style Transfer
arXiv (2026) · doi:10.48550/arxiv.2605.00924 · v1.0 |
8.0 (gemini-3.1-flash-lite) |
👍 Рекомендовано
fresh_idea Детектори - ненадійний засіб вирішення проблем владності світі ШІ+навчання. |
| 34 | У буфері |
The Reliance Negotiation Framework: A Dynamic Process Model of Student LLM Engagement in Academic Writing
arXiv (2026) · doi:10.48550/arxiv.2604.16772 · v1.0 |
6.1 (gemini-3.1-flash-lite) | — |
| 35 | У буфері |
Chatbot-Based Assessment of Code Understanding in Automated Programming Assessment Systems
arXiv (2026) · doi:10.48550/arxiv.2604.07304 · v1.0 |
5.6 (gemini-3.1-flash-lite) | — |
| 36 | У буфері |
How unique are hallucinated citations offered by generative Artificial Intelligence models?
arXiv (2026) · doi:10.48550/arxiv.2604.16407 · v1.0 |
5.0 (gemini-3.1-flash-lite) | — |
| 37 | У буфері |
Fighting AI with AI: AI-Agent Augmented DNS Blocking of LLM Services during Student Evaluations
arXiv (2026) · doi:10.48550/arxiv.2604.02360 · v1.0 |
6.5 (gemini-3.1-flash-lite) | — |
| 38 | У буфері |
"It's OK Because...": The Wild West of Student Rationalization of AI Use in Academic Writing
arXiv (2026) · doi:10.48550/arxiv.2605.29090 · v1.0 |
5.8 (gemini-3.1-flash-lite) | — |
| 39 | У буфері |
ChatGPT vs Teachers vs Students: Large-Scale Analysis of Generative AI Discourse in Education Communities on Reddit
arXiv (2026) · doi:10.48550/arxiv.2605.17712 · v1.0 |
6.2 (gemini-3.1-flash-lite) | — |
| 40 | У буфері |
GenAI Detection Tools, Adversarial Techniques and Implications for Inclusivity in Higher Education
arXiv (Cornell University) (2024) · doi:10.48550/arxiv.2403.19148 · v1.0 |
5.2 (gemini-3.1-flash-lite) | — |
| 41 | У буфері |
Diagnosis and Permission: A Methodological Synthesis of ARMS and AIAS
arXiv/Crossref (2026) · doi:10.35542/osf.io/387bt_v1 · v1.0 |
5.0 (gemini-3.1-flash-lite) | — |
| 42 | У буфері |
ChatGPT in Computer Science Curriculum Assessment: An analysis of Its Successes and Shortcomings
arXiv/Crossref (2023) · doi:10.1145/3613944.3613946 · v1.0 |
5.0 (gemini-3.1-flash-lite) | — |
| 43 | У буфері |
On the Educational Impact of ChatGPT: Is Artificial Intelligence Ready to Obtain a University Degree?
arXiv/Crossref (2023) · doi:10.1145/3587102.3588827 · v1.0 |
5.0 (gemini-3.1-flash-lite) | — |
| 44 | У буфері |
Better by you, better than me, chatgpt3 as writing assistance in students essays
arXiv (Cornell University) (2023) · doi:10.48550/arxiv.2302.04536 · v1.0 |
5.0 (gemini-3.1-flash-lite) | — |
| 45 | У буфері |
ChatGPT has Aced the Test of Understanding in College Economics: Now What?
The American Economist (2023) · doi:10.1177/05694345231169654 · v1.0 |
4.7 (gemini-3.1-flash-lite) | — |
| 46 | У буфері |
Academic Dishonesty and Monitoring in Online Exams: A Randomized Field Experiment
Journal of Computing in Higher Education (2024) · doi:10.1007/s12528-023-09378-x · v1.0 |
6.0 (gemini-3.1-flash-lite) | — |
| 47 | У буфері |
Simple Techniques to Bypass GenAI Text Detectors: Implications for Inclusive Education
International Journal of Educational Technology in Higher Education (2024) · doi:10.1186/s41239-024-00487-w · v1.0 |
5.2 (gemini-3.1-flash-lite) | — |
| 48 | У буфері |
Comparison of Generative AI Performance on Undergraduate and Postgraduate Written Assessments in the Biomedical Sciences
International Journal of Educational Technology in Higher Education (2024) · doi:10.1186/s41239-024-00485-y · v1.0 |
2.5 (gemini-3.7-flash) | — |
| 49 | У буфері |
A Lightweight Browser-Based Facial Recognition Framework for Preventing Impersonation in Computer-Based Examinations
Zenodo (CERN European Organization for Nuclear Research) (2026) · doi:10.5281/zenodo.18210304 · v1.0 |
5.6 (gemini-3.1-flash-lite) | — |
| 50 | Включено |
Why AI Detection Fails for Academic Integrity
arXiv (2026) · doi:10.48550/arxiv.2608.11256 · v1.0 |
7.2 (gemini-3.1-flash-lite) | — |