Звіт про систематичний відбір (PRISMA 2020 Flow)

Прозорий звіт про всі етапи воронки відбору статей: виявлення академічними реєстрами, скринінг префільтром LLM, повнотекстова оцінка придатності та включення до синтезу з експертною валідацією.

✓ Математичний баланс воронки PRISMA збережено (100% замикання стадій)
Повна відсутність витоку даних: n_вхід = n_вихід + ∑n_вилучено + n_очікує на кожному етапі виявлення, скринінгу, придатності та синтезу.
ID: 16952 → Screen: 15943 → Eligible: 2376 → Included: 81
1 Виявлення Бази та методи Бази даних та реєстри n = 15165 arXiv, Crossref, OpenAlex, Semantic Scholar, ERIC Систематичний пошук Інші методи пошуку n = 1787 References (списки): 1760 Cited by (цитування): 0 Ручні додавання: 27 Всього виявлено: n = 16952 Вилучено до скринінгу Не статті: n = 666 Датасети, програмне забезпечення, errata, звіти Дедуплікація (DOI / препринти): n = 6 Автоматичне злиття за PK DOI та preprint_of ⏳ Очікують скринінгу: n = 310 2 Скринінг Анотації LLM Оцінено префільтром LLM n = 15943 Пройшли скринінг: n = 2349 (бал ≥ 5.0) * + Ручні статті (кураторський відбір): n = 27 Допущено до оцінки придатності: n = 2376 Відсіяно префільтром n = 13594 Оцінка нижче порогу придатності Score < 5.0 (за рубрикою v2.3) * Gate ≠ PASS або R < 4.0 обнуляють бал 3 Придатність Повний текст Оцінка придатності (повний текст) n = 2376 Open Access / PDF → Markdown конвертація Отримано та проаналізовано: n = 624 Очікують повного тексту / аналізу: n = 572 У черзі завантаження або аналізу моделями Відсіяно на етапі придатності Не отримано повний текст: n = 948 Paywall: 333 · Помилки: 615 Відхилено експертом 👎 / pre-deep Експерт: n = 1 | Pre-deep: n = 231 Невідповідність критеріям або вердикт /admin/taste 4 Включення Синтез Включено до синтезу (живий дайджест) n = 81 Опубліковано у щоденних випусках Повний текст прочитано та верифіковано Критерії PRISMA 2020 виконано Буфер публікації та верифікація Черга публікації (буфер): n = 525 Проаналізовані роботи, очікують випуску Відхилено експертом 👎 після аналізу: n = 18 Знято з публікації за відгуком автора

Експертна валідація та верифікація (Петля смаку / Expert Taste Loop)

Окремо від воронки формальних правил відбору PRISMA: редакційні вердикти автора дайджесту для калібрування якості та активного навчання префільтру.

👍 10
Схвалено у випусках
(14 всього у корпусі)
👎 29
Відхилено з фіксацією причини
(1 до / 18 після аналізу)
Розподіл причин відхилення експертом:
not_novel: 4 not_for_educators: 3 off_topic: 13 too_narrow: 2 duplicate: 5 other: 1 weak_method: 1
📋 Структуроване резюме огляду (PRISMA 2020: пункт 2 — Structured Summary)

Фон (Background): Живий систематичний огляд застосування великих мовних моделей (LLM) та автономних агентів у вищій освіті. Досліджуються інженерні контрзаходи академічної недоброчесності та переосмислення дизайну оцінювання.

Цілі (Objectives): Систематичне виявлення, скринінг та синтез емпіричних доказів щодо надійності, методологічної строгості та викликів усталеному консенсусу в інтеграції GenAI в університетські курси.

Критерії придатності (Eligibility): Статті з наявним повнотекстовим Open Access (PDF/HTML); тематична релевантність R ≥ 4.0; зважений підсумковий бал Score ≥ 5.0.

Джерела інформації (Information Sources): Мультиреєстровий моніторинг: arXiv, Crossref, OpenAlex, Semantic Scholar, ERIC, а також ланцюжки цитувань (forward/backward citation depth 1–2).

Оцінка ризику упередженості (Risk of Bias): Комплексна метрика методологічної строгості (M, 0–10). Валідація відбору на базі подвійної оцінки: Gwet's AC1, стратифікована повнота та ROC AUC.

Синтез та включення (Synthesis): Включено n = 81 верифікованих робіт до постійного огляду із синтезом висновків, обмежень та емпіричних доказів.

🎯 Специфікація пошуку за схемою PICO / PECO (PRISMA 2020: пункти 4–5)
Компонент Визначення в протоколі Критерії включення / виключення
P (Population) Вища освіта: університети, коледжі, студенти бакалаврату/магістратури, викладачі та екзаменатори. Включено: вища та професійна освіта. Виключено: виключно K-12 початкова школа без переносу методології на HE.
I / E (Intervention / Exposure) Застосування сучасних LLM (GPT-4, Claude, Gemini, Llama) та агентських систем для генерації, вирішення тестів, підказок або оцінювання. Включено: емпіричне тестування та інтеграція LLM. Виключено: загальне символьне AI або застарілий ML без зв'язку з GenAI.
C (Comparator) Традиційні формати оцінювання без ШІ, людська продуктивність або порівняння різних інженерних захистів (guardrails, multi-agent validation). Включено: наявність бейзлайну, порівняльних когорт або контрзаходів. Виключено: абстрактні оглядові есе без порівняльної бази.
O (Outcomes) Ефективність завдань, проникність екзаменів ШІ, надійність інженерних контрзаходів, зміна критеріїв оцінювання, когнітивні ефекти. Включено: емпіричні метрики точності, стійкості, складності або психометрії. Виключено: декларативні твердження без верифікації.
S (Study Design) Емпіричні дослідження: контрольовані експерименти (RCT), квазі-експерименти, кейс-стаді, психометричний аналіз, бенчмарки. Включено: наукові статті з емпіричними даними. Виключено: публіцистичні блоги, прес-релізи, посібники користувача.
* Зноска: Математична модель префільтрації, показники та формула оцінювання (рубрика v2.3)

Показники та параметри рубрики

Символ Критерій оцінювання Вага / Значення
M Методологічна строгість (Methodological Rigor) wM = 0.32
E Інженерні контрзаходи (Engineering Countermeasures) wE = 0.25
C Виклик консенсусу (Consensus Challenge) wC = 0.43
N Новизна (Novelty) wN = 0.00
R Тематична релевантність (Topic Relevance, 0–10) Rmin = 4.0, Rfull = 7.0
Gate Тематичний бар'єр (Binary Scope Gate) PASS / FAIL
Поріг Поріг допуску до повнотекстового аналізу Score ≥ 5.0

Релевантність R є мультиплікатором, а не доданком: робота з R < R_min негайно обнуляється, а відмінна робота поза темою не може обійти профільне дослідження.

Математичні формули оцінки (MathML Core)

1. Підсумковий бал префільтрації (Score):
Score = { 0, якщо Gate ≠ PASS або R < 4.0 Q ⋅ min ( 1 , R 7.0 ) , якщо R ≥ 4.0
2. Зважена якість за критеріями рубрики (Q):
Q = ∑i wi⋅Si ∑i wi = wM⋅M + wE⋅E + wC⋅C + wN⋅N wM + wE + wC + wN Q = 0.32⋅M + 0.25⋅E + 0.43⋅C + 0.00⋅N 1.00 = 0.32⋅M + 0.25⋅E + 0.43⋅C + 0.00⋅N
3. Логічний критерій відсіювання на скринінгу:
Відсіяно ⇔ (Score<5.0)
Методологія та звітність (PRISMA 2020: пункти 1–15, 23–27)

Тип огляду, мета, критерії (1, 3–5)

Living systematic review: щоденно поповнюваний огляд за автоматизованим відбором. Це інструмент відбору літератури, а не опублікований огляд з мета-аналізом.

Тема (запит до моделі): Validity of educational assessment under generative AI and how to keep it (AI-resistant / AI-resilient assessment). Core: how generative AI changes what grades and test scores mean (validity arguments in the sense of Kane and Messick), assessment redesign, and quantitative methods that detect or model the distortion in assessment and learning data: item response theory, differential item functioning between humans and LLMs, item parameter drift, rater drift, item compromise and preknowledge, score shifts under unsupervised or online conditions (proctored vs unproctored exams, cheating, grade inflation), change-point and concept-drift detection, LLMs as test takers or raters, computerized adaptive testing and automated test assembly. Computational, statistical and engineering work is preferred, but a solid conceptual or empirical education study of assessment under generative AI belongs here too. Detectors of AI-generated text and watermarking are only adjacent to the topic. The audience is university educators and researchers: work about primary and secondary school (K-12) is off topic unless its findings or methods clearly transfer to higher education.

  • Включення: наукова стаття з тематичним балом R ≥ 4.0, підсумковий бал ≥ 5.0; доступний легальний повний текст (open access), який прочитано.
  • Виключення: не-статті (датасети, код, errata), дублікати й препринти опублікованих робіт, відкликані роботи, K-12 без переносу на вищу освіту, роботи без повного тексту (paywall, помилки завантаження), відхилені експертом (👎, причина фіксується).
  • Ручні додавання (origin = manual) обходять бальний скринінг, але проходять оцінку придатності.

Джерела та дата останнього звернення (6)

КаналЗаписівОстанній запис
search — arXiv, OpenAlex, Semantic Scholar, ERIC151652026-11-06 16:04
ref — список літератури прочитаних робіт17602026-11-06 10:24
manual — додано вручну272026-10-07 12:05

Метадані кандидатів із цитувань беруться з OpenAlex; Crossref/Unpaywall — для DOI, версій і відкритих PDF.

Пошукова стратегія (7)

Поточна версія пошуку: v1.0. Робота збігається, якщо в назві чи абстракті є термін з УСІХ груп хоча б одного запиту (АБО всередині групи; без урахування регістру, межі слів).

Запити (групи): education × ai; psychometrics × ai; integrity × education; drift × education; drift × psychometrics

education: education, educational, student, learner, teacher, lecturer, classroom, university, higher education, school, curriculum, assessment, exam, examination, examinee, test taker, test score, grading, homework, coursework, online course, essay, academic integrity, academic misconduct, plagiarism, cheating, e-learning, MOOC

ai: generative AI, GenAI, large language model, LLM, ChatGPT, GPT-4, chatbot, AI-generated, AI-assisted, AI-resistant, AI-resilient, AI tool, artificial intelligence

integrity: proctoring, proctored, unproctored, non-proctored, remote proctoring, online exam, online test, online testing, exam integrity, testing integrity, academic integrity, academic dishonesty, cheating, contract cheating, grade inflation

psychometrics: item response theory, IRT, Rasch, psychometric, educational measurement, educational testing, differential item functioning, computerized adaptive testing, adaptive testing, automated test assembly, knowledge tracing, automated scoring, automated essay scoring, validity argument, construct validity, assessment validity, predictive validity

drift: parameter drift, dynamic item response, item parameter drift, rater drift, severity drift, concept drift, change point, change-point detection, item compromise, preknowledge, item exposure, test security, aberrant response, person-fit, differential item functioning

Фрази Semantic Scholar: assessment validity generative AI; AI-resilient assessment higher education; AI-resistant assessment design; generative AI exam performance natural experiment; differential item functioning large language models humans; LLM as test taker item response theory; proctored versus unproctored online exam scores; generative AI grade inflation; item parameter drift detection; item compromise preknowledge detection; concept drift knowledge tracing; change point detection educational testing

arXiv: cs.CY, cs.CL, cs.HC, cs.AI, cs.LG, stat.AP, stat.ME. Ліміти результатів на запит: OpenAlex 50, Semantic Scholar 25, ERIC 25. Цитування: глибина 1 від прочитаних і 👍, глибина 2 лише від 👍; сусіди 👍-робіт оминають лексичний фільтр.

Версія пошукуЗаписів (search)ПершийОстанній
v1.0151652026-10-062026-11-06

Процес відбору та автоматизація (8, 9, 11)

  • Скринінг анотацій: один автоматичний «рецензент» — LLM (gemini-3.1-flash-lite, gemini-3.5-flash-lite), пачки по 20, моделі чергуються; кожна оцінка зберігається (prefilter_evaluations) з моделлю й версією рубрики.
  • Повнотекстовий аналіз і збір даних: gemini-3.8-flash, gemini-3.7-flash, gemini-3.6-flash, prompt v2.1. Тільки після конвертації PDF у Markdown; без тексту модель не викликається.
  • Перевірка: кожну цитату код звіряє з текстом (точний збіг після нормалізації); непідтверджені твердження відкидаються.
  • Людина: незалежної другої оцінки немає. Власник виносить вердикти 👍/👎 на вибірці кандидатів (50% біля порога, 30% найвищі, 20% випадкові); вони впливають на чергу й few-shot, але не змінюють бал.
  • Дані, що збираються (10): суть, метод/дані/вибірка, твердження, обмеження, тип дизайну (assessment_design, psychometric_modeling, natural_experiment, detector_evaluation, survey, rct, quasi_experiment, qualitative, theoretical, review, other), теги, критерії рубрики.
  • Ризик упередженості (11): не оцінювався формально (RoB, GRADE не застосовуються); критерій M «методологічна строгість» (0–10) — ранжувальна оцінка, а не інструмент RoB. Ефектів і мета-аналізу (12, 13d–f, 15) не обчислюється: синтез — якісний, у вигляді розборів статей і тегів.
Модель скринінгуОцінено
gemini-3.1-flash-lite7905
gemini-3.5-flash-lite7492
—612
Модель аналізуpromptРозборів
gemini-3.1-flash-litev2.1275
gemini-3.6-flashv2.1163
gemini-3.8-flashv2.1101
gemini-3.7-flashv2.195

Рубрика оцінювання v2.3 (якорі 0–10)

Модель ставить оцінку 0–10 за кожним критерієм; якорі нижче вбудовані в промпт. Формула й ваги — у зносці вище. Зміна якорів чи ваг без нової версії блокується хешем.

КритерійВага258
Тематична релевантність (R) × min(1, R/7.0) No link to education or assessment: image, audio or model watermarking, model IP protection, general NLP benchmarks, AI in industry.Adjacent: generative AI in education without an assessment focus; academic integrity with no evidence on assessment outcomes; detectors of AI-generated text or of student AI use; general psychometrics (adaptive testing, test assembly, IRT) with no drift, validity or AI angle.Core: validity of assessment under generative AI (what grades and scores mean when AI is available); how grades shift under unsupervised conditions or cheating (proctored vs unproctored exams, grade inflation); AI-resistant or AI-resilient assessment design; quantitative methods that detect or model distorted assessment or learning data (DIF between humans and LLMs, item parameter or rater drift, item compromise/preknowledge, change-point or concept-drift detection, LLMs as test takers or raters).
Методологічна строгість (M) 0.32 Vague evaluation, convenience sample of a few dozen, self-report only, no control group or baseline.Clear dataset or sample (hundreds), standard metrics or validated instruments, comparison with baselines or a control group.Randomized/controlled or preregistered, large or multi-site/multilingual data, adversarial or robustness checks, effect sizes with uncertainty.
Інженерні контрзаходи (E) 0.25 No method or countermeasure: describes impact, attitudes or policy only.A concrete method or countermeasure with an evaluation: statistical test or model, detector, scoring procedure, or an assessment design tried on real cohorts.A rigorous, reusable method: formal model with guarantees or error control, open code, validated on both real and simulated data.
Виклик консенсусу (C) 0.43 Reconfirms standard wisdom.Nuances the consensus (e.g. detectors fail under mild paraphrasing; AI use does not harm an outcome it is assumed to harm).Directly refutes high-profile claims with rigorous evidence.
Новизна (N) 0.00 Replicates well-known findings (another survey of student attitudes to ChatGPT, another test of one detector on a handful of prompts).New dataset, benchmark, population or setting, or a previously untried technique.Fundamentally new attack or defence, a theoretical/impossibility result, or a finding that changes how the field frames the problem.

Оцінки між якорями інтерполюються моделлю. Бал глибокого аналізу рахує код за тією ж формулою з criteria_breakdown.

Версія рубрикиОцінено робіт
v2.0261
v2.1183
v2.220
v2.3 (поточна)15545

Валідація скринінгу: вимірювання надійності та згоди

Еталон — вердикти 👍/👎 експерта. Обчислюються повні метрики систематичних оглядів PRISMA: повнота, специфічність, NPV, F₁, F₂, ROC AUC, DOR, парадокс-імунна Gwet's AC₁ та згода балів.

ПоказникЗначенняЩо це означає
Повнота на seed-наборі50% (1/2), 95% CI 9–91% Частка 👍-робіт, доданих вручну (в обхід скринінгу), чий бал ≥ порога 5.0. Незміщена оцінка чутливості на цьому наборі.
Оцінена повнота корпусу 100% (100–100%) Постстратифікація за смугами балу з оціночних вердиктів; консервативний інтервал. Пропущено релевантних ≈ 0 (0–0). Не оцінено (мало вердиктів у смузі): 13594 відсіяних робіт.
Чутливість (Sensitivity / Recall) 100% (12/12), 95% CI 76–100% Частка релевантних (👍), успішно пропущених скринінгом: TP / (TP + FN).
Специфічність (Specificity) 20% (4/20), 95% CI 8–42% Частка нерелевантних (👎), успішно відсіяних скринінгом: TN / (TN + FP).
Точність (Precision / PPV) 43% (12/28), 95% CI 27–61% Частка схвалених експертом серед тих, що пройшли скринінг: TP / (TP + FP).
Негативна прогностична цінність (NPV) 100% (4/4), 95% CI 51–100% Частка справді нерелевантних серед робіт, відсіяних скринінгом: TN / (TN + FN). Мінімізує ризик втрати цінних робіт.
F-міри (F₁ та F₂) F₁: 0.60 · F₂: 0.79 F₂ надає ваги повноті (чутливості) вдвічі більше за точність — ключова метрика безпеки відсіювання для PRISMA.
Збалансована точність 60.0% Середнє арифметичне чутливості та специфічності ((Sens + Spec) / 2), нечутливе до дисбалансу класів.
Діагностичне відношення шансів (DOR) 6.82 DOR = (TP · TN) / (FP · FN) із поправкою Haldane-Anscombe. Міра загальної дискримінаційної спроможності скринінгу.
ROC AUC0.65 (95% CI 0.43–0.84) Імовірність, що 👍-робота отримала вищий бал, ніж 👎 (0,5 = випадково). Довірчий інтервал обчислено DeLong / Bootstrap.
Надійність згоди (Gwet's AC₁ та Cohen's κ) — Gwet's AC₁ є парадокс-імунною мірою згоди між моделями на спільних статтях, що не занижується при сильному дисбалансі класів (коли 80–90% відсіюється).
Неперервна згода балів моделей MAD: —
r Пірсона: —
MAD (середня абсолютна різниця балів) та кореляція Пірсона r між оцінками моделей скринінгу на спільній вибірці.
Смуга балуРобітЗ вердиктом👍Частка 👍
0.0–2.088022 (замало)00%
2.0–4.036610 (замало)0—
4.0–5.011312 (замало)00%
5.0–6.0 ✓12903267%
6.0–8.0 ✓103223835%
8.0–10.0 ✓302 (замало)2100%
Модель скринінгу Seed-повнота AUC Sens / Spec Prec / NPV F₁ / AC₁ 👍 / 👎 (TP/FP/FN/TN)
gemini-3.1-flash-lite 50% (1/2), 95% CI 9–91% 0.63 100% (12/12), 95% CI 76–100% / 16% (3/19), 95% CI 6–38% 43% (12/28), 95% CI 27–61% / 100% (3/3), 95% CI 44–100% 0.60 / 0.05 12 / 19 (12/16/0/3)
gemini-3.5-flash-lite — — — / 100% (1/1), 95% CI 21–100% — / 100% (1/1), 95% CI 21–100% — / 1.00 0 / 1 (0/0/0/1)
— — — — / — — / — — / — 0 / 0 (0/0/0/0)

Щоб звузити інтервали, оцінюйте роботи з нижніх смуг: вибірка кандидатів у /admin/taste бере 20% випадкових робіт. Оцінки оновлюються автоматично з кожним вердиктом.

Оцінка методологічної строгості та розподіл дизайнів (11, 18)

Критерій строгості M (0–10) оцінюється під час повнотекстового аналізу. Розподіл дизайнів базується на верифікованій класифікації емпіричних робіт.

Середня строгість (M)
6.59 / 10
Проаналізовано робіт: 624
Розподіл рівнів строгості
🟢 Висока строгість (M ≥ 7.0): 320
🟡 Помірна строгість (4.0 ≤ M < 7.0): 287
🔴 Низька строгість (M < 4.0): 17
Дизайн дослідження (Study Design)Кількість робіт
psychometric_modeling240
other42
theoretical27
rct13
assessment_design165
natural_experiment5
quasi_experiment54
detector_evaluation41
survey7
review18
experimental1
qualitative11

Чек-лист відповідності PRISMA 2020 (усі 27 пунктів)

Повний аудит відповідності огляду чек-листу PRISMA 2020 (Page et al., 2021) для автоматизованих систематичних оглядів.

№ Розділ / Пункт Вимога чек-листа Статус Реалізація в системі
1TitleІдентифікація як живий систематичний огляд✓ ВпровадженоЗаголовок сторінки, метадані звіту
2AbstractСтруктуроване резюме (фон, цілі, методи, результати)✓ ВпровадженоБлок #prisma-abstract (пункт 2 вище)
3RationaleОбґрунтування огляду в контексті існуючих знань✓ ВпровадженоОпис теми, цілей та потреби в контрзаходах
4ObjectivesЧітке формулювання питань за схемою PICO / PECO✓ ВпровадженоБлок #pico-framework (таблиця PICO вище)
5Eligibility criteriaКритерії включення та виключення, мова, дати✓ ВпровадженоПороги R ≥ 4.0, Score ≥ 5.0, Open Access
6Information sourcesБази даних, реєстри, дати останнього запиту✓ ВпровадженоarXiv, Crossref, OpenAlex, Semantic Scholar, ERIC, цитування
7Search strategyПовна стратегія пошуку, булеві оператори, версії✓ Впровадженоsearch_version, повні групи термінів, API limits
8Selection processПроцес скринінгу, автоматизація, дублювання оцінок✓ ВпровадженоLLM скринінг з ротацією моделей + редакційна петля смаку
9Data collectionМетоди отримання даних з повнотекстових звітів✓ ВпровадженоPDF → Markdown парсинг, deep analysis prompt v2.1
10a-bData itemsПерелік змінних, результатів та характеристик✓ ВпровадженоСуть, вибірка, дизайн, емпіричні твердження, контрзаходи
11Study risk of biasОцінка методологічної якості досліджень✓ ВпровадженоКритерій строгості M (0–10), розподіл рівнів якості
12Effect measuresМіри величини ефекту (RR, OR, MD)— Обґрунтовано N/AЯкісний синтез та живий дайджест без мета-аналізу ефектів
13a-fSynthesis methodsКритерії об'єднання та методи синтезу✓ ВпровадженоТематична кластеризація за тегами, порівняльні картки
14Reporting biasОцінка зміщення звітності (публікаційне зміщення)✓ ВпровадженоАналіз Paywall-виключень та відкритого доступу
15Certainty assessmentОцінка впевненості у доказах✓ ВпровадженоАвтоматична верифікація цитат із тексту робіт
16Study selectionРезультати відбору (PRISMA воронка, числа)✓ Впроваджено100% замикання стадій: n_вхід = n_вихід + ∑n_вилучено
17Study characteristicsХарактеристики включених робіт у таблиці✓ ВпровадженоІнтерактивна таблиця з DOI, журналами, роками та тегами
18Risk of bias in studiesРезультати оцінки ризику упередженості✓ ВпровадженоТаблиця розподілу строгості M та дизайнів досліджень
19Results of individual studiesРезультати для кожної окремої статті✓ ВпровадженоПублічні сторінки /doi/{doi} з повними розборами
20a-dResults of synthesesРезультати тематичного синтезу✓ ВпровадженоЩоденні випуски дайджесту, RSS-канал, тегові вибірки
21Reporting biasesФактичні дані щодо виявлених зміщень✓ ВпровадженоPaywall n=333, відкликані n=0
22Certainty of evidenceПідсумкова надійність масиву доказів✓ ВпровадженоGwet's AC₁, Cohen's κ, стратифікована повнота та ROC AUC
23a-dDiscussionОбговорення, обмеження методів та висновки✓ ВпровадженоБлок обмежень (пункти 23b, 23c) у методології
24a-cRegistration & protocolРеєстрація, доступ до протоколу, зміни✓ ВпровадженоВідкритий репозиторій, журнал версій search_ver та рубрик
25SupportДжерела фінансування огляду✓ ВпровадженоБезкоштовні відкриті рівні API (Gemini/OpenAlex)
26Competing interestsЗаява про конфлікт інтересів✓ ВпровадженоКонфлікти відсутні, зафіксовано в методології
27Data & code availabilityДоступність даних аналізів, коду та матеріалів✓ ВпровадженоЕкспорт у CSV / JSON (кнопки нижче), відкритий код

Обмеження (23b, 23c)

  • Лише open access: платні статті не потрапляють до синтезу, тож вибірка зміщена в бік відкритих і препринтів.
  • Скринінг ранжує за якістю й новизною, а не лише за придатністю, тож вибірка зміщена до робіт, що оскаржують консенсус. Валідність виміряно щодо одного експерта (див. вище); один LLM-рецензент, упередження моделей і різниця між версіями лишаються.
  • Лексичний фільтр і ліміти результатів можуть пропускати роботи з іншою термінологією; англомовне зміщення джерел.
  • Записи, оцінені давнішою версією рубрики, не перераховуються автоматично (див. таблицю версій).
  • Безкоштовна квота Gemini: денні ліміти уповільнюють аналіз, частина відібраних робіт чекає в черзі.

Реєстрація, протокол, зміни, підтримка, дані (24–27)

  • Реєстрація: огляд не реєструвався. Протокол — це конфігурація (тема, запити, рубрика, пороги) у репозиторії проєкту; вона відтворюється з цього блоку.
  • Зміни протоколу: версії пошуку (search_version) і рубрики (rubric_version), таблиці вище.
  • Фінансування: окремого не заявлено, використовуються безкоштовні рівні API. Конфлікти інтересів: не заявлено.
  • Дані: аналізи й метадані — на сторінках статей, RSS і sitemap; повні тексти приватні (авторське право) і не публікуються.

Фільтрація за тегами

Виберіть один або декілька тегів для деталізації звіту та перегляду списку статей.

#psychometrics (101) #Psychometrics (57) #Item Response Theory (47) #academic integrity (46) #item response theory (38) #Assessment Validity (37) #assessment validity (37) #higher education (36) #Automated Essay Scoring (29) #Generative AI (28) #automated essay scoring (27) #construct validity (26) #IRT (24) #Construct Validity (23) #generative AI (20) #Academic Integrity (19) #LLM as rater (19) #Automated Scoring (17) #Higher Education (17) #Large Language Models (17) #assessment redesign (16) #assessment_design (16) #LLM Evaluation (15) #AI-resilient assessment (14) #automated scoring (14) #large language models (14) #LLM as Rater (13) #assessment design (13) #automated assessment (13) #prompt engineering (13) #validity (13) #GPT-4 (12) #academic_integrity (12) #differential item functioning (12) #Assessment Redesign (11) #ChatGPT (11) #Prompt Engineering (11) #assessment-validity (11) #assessment_validity (11) #benchmarking (11) #LLM-as-a-judge (10) #LLMs as raters (10) #item_response_theory (10) #Automated Item Generation (9) #Computerized Adaptive Testing (9) #DIF (9) #Inter-Rater Reliability (9) #LLM evaluation (9) #LLMs as Test Takers (9) #concept drift (9) #inter-rater reliability (9) #rater drift (9) #AI-resistant assessment (8) #Assessment Design (8) #Differential Item Functioning (8) #Knowledge Tracing (8) #Validity (8) #automated_essay_scoring (8) #computerized adaptive testing (8) #construct_validity (8)
Знайдено робіт: 16952
Експорт даних (п. 27): 📥 CSV 📥 JSON
# Статус / Етап Стаття LLM Оцінка Оцінка експерта
1651 scored Analysis of the characteristic of mathematical literacy test items on algebraic elements using IRT
Jurnal Math Educator Nusantara Wahana Publikasi Karya Tulis Ilmiah di Bidang Pendidikan Matematika (2026) · doi:10.29407/jmen.v12i1.26949 · v1.0
0.0 (gemini-3.1-flash-lite) —
1652 scored Empowering Theological Research: Promoting Information Literacy in the Digital Age
Atla Open Press eBooks (2026) · doi:10.31046/2dq7rc69 · v1.0
0.0 (gemini-3.1-flash-lite) —
1653 Без повного тексту A Robust, Multimethod Approach to Plagiarism Detection in Source Code
Ambient intelligence and smart environments (2026) · doi:10.3233/aise260033 · v1.0
6.1 (gemini-3.5-flash-lite) —
1654 Відсіяно Academic Integrity in the Age of Generative AI: Challenges to University Students’ Academic Norms and Practices
Frontiers in Arts Humanities & Social Sciences (2026) · doi:10.67148/fahss-2026-199 · v1.0
2.6 (gemini-3.5-flash-lite) —
1655 scored Review of NOAA's Billion Dollar Disasters in light of Critiquing Roger Pielke Jr's critical remarks
arXiv/Crossref (2026) · doi:10.14293/pr2199.002814.v3 · v1.0
0.0 (gemini-3.5-flash-lite) —
1656 scored Detecting Aimbot Cheaters in MOGs
arXiv (Cornell University) (2026) · doi:10.48550/arxiv.2606.07650 · v1.0
0.0 (gemini-3.5-flash-lite) —
1657 Відсіяно Cognitive Scaffolding in AI-Assisted Writing: An Empirical Study of Human Creativity and Content Authenticity
Tech Journal of Engineering Science (2026) · doi:10.69836/tech.v2i1.838 · v1.0
3.5 (gemini-3.5-flash-lite) —
1658 Відсіяно Efektivitas Pemanfaatan Media Quizziz sebagai Alat Evaluasi dalam Pembelajaran Ilmu Alamiah Dasar
Ekspose Jurnal Penelitian Hukum dan Pendidikan (2026) · doi:10.30863/ekspose.v25i1.11699 · v1.0
3.3 (gemini-3.5-flash-lite) —
1659 Відсіяно Pemberdayaan Mahasiswa Beretos Digital: Pemanfaatan AI Bertanggung Jawab dalam Meningkatkan Pembelajaran di Perguruan Tinggi
MESTAKA Jurnal Pengabdian Kepada Masyarakat (2026) · doi:10.58184/mestaka.v5i3.995 · v1.0
2.9 (gemini-3.5-flash-lite) —
1660 Відсіяно ARTIFICIAL INTELLIGENCE, ETHICS, AND LEGAL ACCOUNTABILITY IN HIGHER EDUCATION INSTITUTIONS
ShodhKosh Journal of Visual and Performing Arts (2026) · doi:10.29121/shodhkosh.v7.i14s.2026.8537 · v1.0
3.5 (gemini-3.5-flash-lite) —
1661 Відсіяно The Use of Generative Artificial Intelligence and Academic Integrity in Somaliland Higher Education: Usage Patterns, Student Perceptions and Emerging Challenges
International Journal of Innovative Science and Research Technology (IJISRT) (2026) · doi:10.38124/ijisrt/26may1152 · v1.0
2.6 (gemini-3.5-flash-lite) —
1662 Відсіяно The use of generative artificial intelligence applications by undergraduate dental students
medRxiv (2026) · doi:10.64898/2026.05.25.26353910 · v1.0
3.8 (gemini-3.5-flash-lite) —
1663 scored Contradictions and Cues: Understanding Educators’ Judgments of GenAI-Assisted Essays
Innovation and Education (2026) · doi:10.1163/25248502-bja00017 · v1.0
5.2 (gemini-3.5-flash-lite) —
1664 scored Digital Identity Management Systems and National Security Enhancement
Zenodo (CERN European Organization for Nuclear Research) (2026) · doi:10.5281/zenodo.20508186 · v1.0
0.0 (gemini-3.5-flash-lite) —
1665 Відсіяно From ‘Here I Am!’ to ‘Here I Am.’: University EFL teachers’ duoethnography with LLM-powered tools
RELC Journal (2026) · doi:10.1177/00336882261451980 · v1.0
3.3 (gemini-3.5-flash-lite) —
1666 scored Editorial: Digital learning innovations: trends emerging scenario, challenges and opportunities
Frontiers in Education (2026) · doi:10.3389/feduc.2026.1871035 · v1.0
0.0 (gemini-3.5-flash-lite) —
1667 scored Validation of the Problematic AI Use Scale for University Students (PAIU-U) for Academic Integrity
Preprints.org (2026) · doi:10.20944/preprints202606.0099.v1 · v1.0
5.4 (gemini-3.5-flash-lite) —
1668 Не стаття Structured PREreview of "Data-Driven Tourism: How Smart Technologies Are Shaping the Future of Saudi Arabia's Hospitality Sector"
Zenodo (CERN European Organization for Nuclear Research) (2026) · doi:10.5281/zenodo.20510924 · v1.0
- —
1669 scored ARTIFICIAL INTELLIGENCE AND THE TRANSFORMATION OF MODERN EDUCATION
Zenodo (CERN European Organization for Nuclear Research) (2026) · doi:10.5281/zenodo.20507553 · v1.0
0.0 (gemini-3.5-flash-lite) —
1670 scored AN EMPIRICAL-ANALYTICAL STUDY OF PLAYER PERCEPTION, ENGAGEMENT, AND SATISFACTION IN GAMING USING ARTIFICIAL INTELLIGENCE
Zenodo (CERN European Organization for Nuclear Research) (2026) · doi:10.5281/zenodo.20503946 · v1.0
0.0 (gemini-3.5-flash-lite) —
1671 scored Generative AI for Learning Individualization and Student Support in Sustainable Higher Education: A Systematic Review of Creative Agency, Equitable Learning, and Implications for SDG 4 and SDG 10
arXiv/Crossref (2026) · doi:10.37766/inplasy2026.6.0012 · v1.0
0.0 (gemini-3.5-flash-lite) —
1672 Відсіяно HyFlex Classroom Delivery in Post-Secondary Education: Perspectives of Faculty
EPiC series in built environment (2026) · doi:10.29007/wh5m · v1.0
1.9 (gemini-3.5-flash-lite) —
1673 scored Cheating Your Way to Losing: Perceptions of the Use of Weight Loss Medication
Journal of the Association for Consumer Research (2026) · doi:10.1086/742538 · v1.0
0.0 (gemini-3.5-flash-lite) —
1674 scored Nursing faculty's experiences with managing academic integrity in prelicensure nursing education: A qualitative study
Journal of Professional Nursing (2026) · doi:10.1016/j.profnurs.2026.05.022 · v1.0
0.0 (Flash Lite) —
1675 scored Crisis Communication Strategies in the Digital Era: A Narrative Review of Contemporary Theories, Models, and Practices
Interdiciplinary Journal and Hummanity (INJURITY) (2025) · doi:10.58631/injurity.v4i12.1502 · v1.0
0.0 (gemini-3.1-flash-lite) —
1676 scored ONRAMP-AI-VRAR: an operational protocol for ethics and governance of AI-enabled immersive psychotherapy
BMC Psychiatry (2025) · doi:10.1186/s12888-025-07557-x · v1.0
0.0 (gemini-3.1-flash-lite) —
1677 scored Rethinking AI anthropomorphism: A holistic conceptualization and scale across AI systems and service contexts
Technology in Society (2025) · doi:10.1016/j.techsoc.2025.103189 · v1.0
0.0 (gemini-3.1-flash-lite) —
1678 Відсіяно RAAF: Responsible AI-Supported Assessment and Feedback – From Technical Appraisal to Institutional Accountability
International Hellenic University (2025) · doi:10.26234/heal.ihu.338 · v1.0
4.7 (gemini-3.1-flash-lite) —
1679 Відсіяно An AI Education Framework Based on LLM-Knowledge Graph for Personalized Learning
International Conference on Computational Intelligence and Security (CIS) (2025) · doi:10.1109/cis69366.2025.11433876 · v1.0
4.0 (gemini-3.1-flash-lite) —
1680 Відсіяно Turn-by-Turn Behavior Monitoring in LM-Guided Psychotherapy
Underline Science Inc. (2025) · doi:10.48448/bpja-w409 · v1.0
3.7 (gemini-3.1-flash-lite) —
1681 Відсіяно Pengaruh Literasi Digital Terhadap Karakter Kritis Siswa Dalam Pembelajaran Ilmu Pengetahuan Sosial
Journal of Educational Research and Learning Analytics (2025) · doi:10.65101/jerlra.v1i2.131 · v1.0
1.9 (gemini-3.1-flash-lite) —
1682 scored Healthcare Professionals’ Interactions with Families of Hospitalized Patients Through Information Technologies: Toward the Integration of Artificial Intelligence
Nursing Reports (2025) · doi:10.3390/nursrep15120446 · v1.0
0.0 (gemini-3.1-flash-lite) —
1683 Відсіяно Design of AI-Based Personalized Teaching System for Aerobics
International Conference on Information Education and Artificial Intelligence (ICIEAI) (2025) · doi:10.1145/3799457.3799501 · v1.0
3.7 (gemini-3.1-flash-lite) —
1684 Відсіяно A Transformer-based Method for Knowledge Tracing and Exercise Recommendation
arXiv/Crossref (2025) · doi:10.1145/3788149.3788239 · v1.0
4.0 (gemini-3.1-flash-lite) —
1685 Відсіяно IELTS and TOEFL Automated Essay Scoring - Hybrid NLP and ML Approach
IEEE Pune Section International Conference (PuneCon) (2025) · doi:10.1109/punecon67554.2025.11378632 · v1.0
4.0 (gemini-3.1-flash-lite) —
1686 Відсіяно Development and Validation of the Artificial Intelligence in Mental Health Scale: Application for AI Mental Health Chatbots
Healthcare (2025) · doi:10.3390/healthcare13243269 · v1.0
2.3 (gemini-3.1-flash-lite) —
1687 scored Clinical Project Management Systems (CPMS): A Project-Centric Reframing of Trial Operations
Zenodo (CERN European Organization for Nuclear Research) (2025) · doi:10.5281/zenodo.17924336 · v1.0
0.0 (gemini-3.1-flash-lite) —
1688 scored Psychometric properties of Turkish ChatGPT usage and attitudes scales in nursing students
Teaching and learning in nursing (2025) · doi:10.1016/j.teln.2025.11.024 · v1.0
0.0 (Flash Lite) —
1689 Відсіяно Mathematical Critique of the AI-Infused Virtual Mind Palace: From Mnemonics to Probabilistic Models
Zenodo (CERN European Organization for Nuclear Research) (2025) · doi:10.5281/zenodo.17930803 · v1.0
3.6 (gemini-3.1-flash-lite) —
1690 Відсіяно Pemetaan Kepribadian RIASEC melalui Klasifikasi Multi-Task Fitur Grafologi Tulisan Tangan Menggunakan ResNeXt50
JURIKOM (Jurnal Riset Komputer) (2025) · doi:10.30865/jurikom.v12i6.9201 · v1.0
2.9 (gemini-3.1-flash-lite) —
1691 Відсіяно Student Resistance to ChatGPT in Indonesia: Extended IRT with PLS-SEM Analysis
Journal of Vocational Informatics and Computer Education (2025) · doi:10.66053/voice.v3i2.264 · v1.0
1.9 (gemini-3.1-flash-lite) —
1692 scored Music Therapy Improves Emotional Attention Control Abnormalities in Depression Patients: A Pilot Study
IEEE International Conference on Bioinformatics and Biomedicine (BIBM) (2025) · doi:10.1109/bibm66473.2025.11356761 · v1.0
0.0 (gemini-3.1-flash-lite) —
1693 Відсіяно AI-Powered Tutors as a Catalyst for Conceptual Understanding in Einsteinian Physics Education
Schrödinger Journal of Physics Education (2025) · doi:10.37251/sjpe.v6i4.2263 · v1.0
1.4 (gemini-3.1-flash-lite) —
1694 Без повного тексту Norming of IQ tests on a ratio scale
arXiv/Crossref (2025) · doi:10.23668/psycharchives.21511 · v1.0
6.4 (gemini-3.5-flash-lite) —
1695 Відсіяно The effect of LLM-powered value-integrated story cards on English vocabulary acquisition: A generative AI-supported convergent mixed methods study in middle school students
Journal of Educational Technology and Online Learning (2026) · doi:10.31681/jetol.1903748 · v1.0
4.5 (gemini-3.5-flash-lite) —
1696 scored The Narrow Productive Sphere: Artificial Intelligence, Occupational Immobility and the Breadth of Reskilling
Zenodo (CERN European Organization for Nuclear Research) (2026) · doi:10.5281/zenodo.23064131 · v1.0
0.0 (gemini-3.5-flash-lite) —
1697 scored From Global Inequality to Health Inequality in the Age of the Tetra Society: An Editors’ Note on Branko Milanović’s Essay
Health Politics (2026) · doi:10.66534/hp.2026.0013 · v1.0
0.0 (gemini-3.5-flash-lite) —
1698 scored Artificial Intelligence in Human Resource Management: Strategic Implications for Planning, HRIS, and Performance Evaluation
WORLD JOURNAL OF INNOVATION AND MODERN TECHNOLOGY (2026) · doi:10.56201/wjimt.v10.no1.2026.pg92.104 · v1.0
0.0 (gemini-3.5-flash-lite) —
1699 scored Pengenalan dan Uji Coba Prototipe Aplikasi Edujoy Berbasis AI dan AR dengan Gamifikasi untuk Penguatan Karakter dan Motivasi Belajar Siswa di SD IT Azahra Purwokerto
Jurnal Pelayanan Masyarakat (2026) · doi:10.62951/jpm.v3i3.3611 · v1.0
0.0 (gemini-3.5-flash-lite) —
1700 scored LIFE SKILLS EDUCATION AS 21ST-CENTURY SKILLS: THE NEED AND EFFECTIVENESS OF INTEGRATING IT INTO THE CURRICULUM AT THE HIGHER SECONDARY LEVEL
International Journal of Research -GRANTHAALAYAH (2026) · doi:10.29121/granthaalayah.v14.i9.2026.7173 · v1.0
0.0 (gemini-3.5-flash-lite) —