LLM run #36
section_filler
· model: search
· target: case:acu-turnitin-discontinued
· section: risks
· 16.1s
· ok
📥 input
{"case_summary": {"id": "acu-turnitin-discontinued", "name": "Australian Catholic · Turnitin AI Detection (discontinued after 6k false flags)", "organization": {"name": "Australian Catholic University", "country": "AU", "type": "U"}, "ai": {"pattern": "D", "agentivity": 2, "technologies": ["turnitin"]}, "facets": {"orchestration": "LIN", "pedagogy": "INST", "control": "HUMAN", "economy": "EXT"}, "transformation_mode": "rectoral-initiative", "lifecycle": {"stage": "rolled-back", "first_seen": "wave-csv-2026-06", "history": [{"wave": "wave-csv-2026-06", "stage": "rolled-back", "note": "из CSV: stage=discontinued — counter-signal candidate"}]}}, "section": "risks"}
📤 output
{"section_id": "risks", "text": "Кейс Australian Catholic University с использованием индикатора AI в Turnitin проявил сразу несколько критических типов рисков, часть из которых уже материализовалась.\n\nВо-первых, проявился риск массовых **ложноположительных срабатываний** и слабой доказательной силы детектора. По данным внутренней документации, к которой получил доступ ABC, ACU в 2024 зафиксировал около 6 000 случаев предполагаемого академического проступка, около 90% которых относились к использованию ИИ, при этом университет впоследствии отказался от инструмента Turnitin как «неэффективного». Это означает, что тысячи студентов могли быть ошибочно помечены нарушителями из‑за ненадёжности алгоритма и ограничений текущих AI‑детекторов[1][3]. Публикации и аналитика по рынку подчёркивают, что современные детекторы ИИ (включая Turnitin) выдают и ложноположительные, и ложноотрицательные результаты и не обеспечивают «судебного» уровня доказательности[2][7].\n\nВо-вторых, зафиксирован риск **процессуальной несправедливости и смещения бремени доказательства** на студентов. В расследовании ABC описано, что студенты получали уведомления о возможном нарушении и им давали две недели на сбор доказательств своей невиновности, фактически перекладывая на них обязанность опровергать выводы алгоритма[3]. Эксперты по академической добросовестности предупреждают, что использование отчётов детекторов как основного или единственного основания обвинения ведёт к нарушению принципов справедливой процедуры и может игнорировать контекст, особенности владения языком и предысторию работы студента[2].\n\nВ-третьих, проявился риск **goal-substitution и подмены педагогических целей полицейским контролем**. Стратегия, где акцент смещается на массовый автоматизированный поиск «нарушителей» вместо переосмысления заданий и форм оценивания под условия распространения генеративного ИИ, ведёт к укреплению карательной логики вместо развития академической честности через дизайн курсов и поддержку студентов[2]. Это может подрывать доверие к университету, ухудшать учебный климат и усиливать стресс, особенно среди уязвимых групп.\n\nВ-четвёртых, проявился риск **слабой трассировки и аудируемости решений**. Если административные решения об академическом проступке опираются на закрытый проприетарный алгоритм, преподаватели и студенты ограничены в понимании логики срабатываний, а апелляции затруднены. Внешние аналитики подчёркивают, что дашборды детекторов не должны рассматриваться как доказательство, а лишь как сигнал, требующий человеческой проверки и дополнительных свидетельств (сравнение с ранее написанными работами, проверка источников, устная верификация авторства)[2]. В случае ACU информация о проблемах инструмента, по данным ABC, была известна более года до отказа от него, что увеличивает репутационные и юридические риски университета за запоздалую корректировку практик[1].\n\nНаконец, кейс подсвечивает риск **vendor lock-in и технологической зависимости без независимой валидации качества**. Использование одного коммерческого инструмента (Turnitin AI Indicator) как де‑факто стандарта детекции без опоры на внешние сравнения и исследовательские данные о точности приводит к тому, что слабости конкретного продукта превращаются в системную проблему на уровне институции. Независимые исследования показывают, что ни один из протестированных детекторов не обеспечивает надёжной точности в условиях реальной практики, особенно при гибридных или перефразированных текстах[2]. При отсутствии прозрачных критериев и регулярной переоценки инструментов университет рискует повторным появлением подобных кризисов при последующих сменах или обновлениях систем.\n", "confidence": "high", "sources": [{"url": "https://www.abc.net.au/news/2025-10-09/artificial-intelligence-cheating-australian-catholic-university/105863524", "title": "University wrongly accuses students of using artificial intelligence to cheat", "what_supports": "Число ~6000 кейсов, доля AI‑связанных обвинений, использование AI‑детектора, признание ACU проблем с инструментом и отказ от Turnitin как неэффективного, информация о том, что университет знал о проблемах более года."}, {"url": "https://www.youtube.com/watch?v=MuR3wLUhzv0", "title": "University wrongly accuses students of using AI to cheat | ABC NEWS", "what_supports": "Подробности о всплеске дела о нарушениях, о том, что около 6000 студентов были обвинены, большинство по линии AI, и о том, что студентам давали примерно две недели на доказательство невиновности, смещение бремени доказательства."}, {"url": "https://caqa.com.au/blogs/news/when-the-detector-becomes-the-accuser-why-universities-must-rethink-ai-policing-in-academic-integrity", "title": "When the detector becomes the accuser: why universities must rethink AI policing in academic integrity", "what_supports": "Общий риск ненадёжности AI‑детекторов (включая Turnitin), наличие ложноположительных и ложноотрицательных срабатываний, тезис о том, что отчёты детектора не являются доказательством, риск процессуальной несправедливости, необходимость рассматривать детекцию как сигнал и дополнять её другими методами."}, {"url": "https://www.linkedin.com/posts/simondwaller_university-caught-out-using-ai-to-wrongly-activity-7381886680451993600-mx5X", "title": "Australian Catholic University's AI mistake: a warning for all", "what_supports": "Подчёркивание ненадёжности AI‑детекторов, упоминание ложноположительных и ложноотрицательных срабатываний и рисков для университетов, использующих подобные инструменты как основание для обвинений."}], "open_gaps": ["Нет открытых данных о том, привёл ли кейс к судебным искам или компенсациям студентам, и как именно были пересмотрены уже вынесенные решения по академическим проступкам.", "Нет детальной статистики по распределению ложноположительных и ложноотрицательных срабатываний Turnitin в ACU по факультетам, типам заданий и группам студентов.", "Не раскрыто, какие конкретные внутренние процедуры ACU изменил после отказа от Turnitin, чтобы снизить риски повторения подобных ситуаций."]}
🔗 citations
["https://caqa.com.au/blogs/news/when-the-detector-becomes-the-accuser-why-universities-must-rethink-ai-policing-in-academic-integrity", "https://staff.acu.edu.au/our_university/centre-for-education-and-innovation/curriculum-design-and-quality-assurance/academic-integrity/academic-integrity-faqs", "https://www.abc.net.au/news/2025-10-09/artificial-intelligence-cheating-australian-catholic-university/105863524", "https://www.facebook.com/eteducation/posts/in-an-ironic-twist-emblematic-of-the-ai-age-the-australian-catholic-university-a/740324179062342/", "https://www.facebook.com/groups/aiforteachers/posts/1080018033412506/", "https://www.instagram.com/reel/DPnXNl-jkRt/?hl=en", "https://www.linkedin.com/posts/simondwaller_university-caught-out-using-ai-to-wrongly-activity-7381886680451993600-mx5X", "https://www.reddit.com/r/University/comments/1thly2j/australian_catholic_university_and_uct_just/", "https://www.youtube.com/watch?v=MuR3wLUhzv0"]