В Австралії університет помилково звинуватив сотні студентів у шахрайстві через штучний інтелект. “Порушення” виявила система, яка… базувалася на ШІ.
Сотні студентів Австралійського католицького університету (ACU) отримали офіційні листи з темою “Занепокоєння щодо академічної доброчесності”. Їх звинуватили у використанні ChatGPT чи подібних інструментів ШІ під час виконання завдань. Одна зі студенток Мадлен розповіла, що отримала такий лист, коли подавала заявку на аспірантуру після навчання на медсестру.
“І на додачу до цього, я отримувала електронні листи від ради з питань академічної неправомірності, в яких йшлося про те, що мені потрібно написати пояснення, чому, на мою думку, це могло статися”, — сказала Мадлен.
Обвинувачення університет висунув швидко, а от виправляти ситуацію довелося місяцями. Студентка “вибивала” право очистити своє ім’я протягом пів року. Виш приховав її результати навчання, а тому постраждала її кар’єра. Жінці відмовили в роботі аспіранта.
“Тоді було дуже важко влаштуватися на роботу медсестрою, бо більшість місць вимагають мати рік навчання в аспірантурі. Я не знала, що робити. Чи варто мені повернутися до навчання? Чи варто просто здатися і займатися чимось, що не є медсестринством у лікарні?” — згадує вона.
Проте зрозуміло, що історія Мадлен — не єдина. У 2024 році ACU повідомив майже 6000 випадків підозри на шахрайство, 90% з яких стосувалися використання штучного інтелекту. Хоча заступниця віцеканцлера Таня Бродлі визнала, що таких випадків побільшало, вона назвала цифри “суттєво завищеними”.
Проблема в тому, що університет спирався лише на дані детектора ШІ від Turnitin — популярної системи перевірки на плагіат. Сам Turnitin прямо зазначає, що його результати “не повинні використовуватись як єдина підстава для дисциплінарних дій”. Проте керівництво університету повністю покладалося лише на Turnitin.
Кожен, хто хоч колись працював з текстами знає, що подібні системи ШІ однобічні та ненадійні. Наприклад, повністю написаний від руки текст може відображатися як згенерований, поки створений ШІ — як повністю оригінальний. Тому свого часу китайські студенти обходили подібні детектори… штучним інтелектом.
Студенти розповіли, що університет вимагав від них докази невинуватості — рукописні нотатки, чернетки та навіть історію пошуку в браузері. Останній пункт особливо абсурдний, бо що робити, якщо постійно видаляєш історію пошуку? Або втратив доступ до свого попереднього акаунту і тепер користуєшся новим?
“Вони не поліція. У них немає ордера на обшук, щоб запитувати вашу історію пошуку. Але коли стикаєшся з ризиком повторно здавати предмет, ти просто робиш те, що вони хочуть”, — розповів студент-парамедик, який також став жертвою помилки.
Після року скарг і критики університет відмовився від використання детектора Turnitin у березні цього року. Близько чверті всіх звернень було відхилено після розслідування. Будь-який випадок, коли інструмент виявлення на основі штучного інтелекту Turnitin був єдиним доказом, було негайно відхилено. Однак слова студентів говорять про інше — більшість розслідувань тривали місяцями, а звинувачення часто знімали лише після серйозного тиску з боку постраждалих. Та і самі розслідування гальмували, що шкодило кар’єрі юних медиків.
Джерело: Futurism
