Вчителів просять припинити називати помилки ШІ «галюцинаціями»
Інструменти штучного інтелекту можуть за лічені секунди створити есе про міграційні моделі водоплавних птахів або освітню програму K-12 президента США Барака Обами, але ця робота може бути пронизана фактичними помилками.
У інформатиці ці неточності зазвичай називають «галюцинаціями», але експерти з освітніх технологій намагаються уникати цього терміну.
«Ми знаємо, що індустрія має тенденцію використовувати термін «галюцинації», щоб натякнути на помилки, зроблені [AI] системами та інструментами», — сказала Паті Руїз, старший директор відділу електронних технологій і нових технологій Digital Promise, некомерційної організації, яка працює про технології та питання справедливості під час вебінару Education Week.
Але дослідники, які думають про те, як говорити про штучний інтелект, рекомендують використовувати іншу назву для цих помилок, наприклад, «помилка», — сказав Руїз.
По-перше, слово "галюцинації", - сказав Руїз, "висвітлює проблеми психічного здоров'я".
І вона додала, що використання цього слова для позначення помилок штучного інтелекту «може дати учням хибне відчуття, що цей інструмент має людські якості. І це те, проти чого ми виступаємо проти, чи не так? Ми виступаємо за те, щоб люди розуміли ці інструменти просто як інструменти, які підтримуватимуть нас як людей».
Руїз зазначила, що вона та інший експерт, який виступав під час вебінару, Кіп Глейзер, директор середньої школи Маунтін-В’ю в Каліфорнії, писали про це питання на початку цього року.
Більше того, студенти повинні розуміти, що вони не повинні сприймати будь-яку інформацію, яку вони отримують від ChatGPT та подібних інструментів, за чисту монету, сказав Руїз.
«Генеративні системи та інструменти ШІ допускають багато помилок», — сказала вона. «Нам потрібно мати досвід у різних сферах контенту, щоб ми могли переглядати результати генеративного штучного інтелекту. І ми рекомендуємо завжди сумніватися в результатах генеративних систем та інструментів штучного інтелекту».
Школи та округи повинні пояснити вчителям і учням цю потребу в перевірці. «Керівництво дійсно важливо, щоб ми всі могли використовувати (ШІ) ефективно та належним чином і таким чином, щоб не підтримувати упередженості, які вже існують у цих системах», – додав Руїз.