Системи генеративного штучного інтелекту (AI), такі як ChatGPT, Gemini та Copilot, дедалі частіше створюють неправдиву інформацію та фальсифіковані джерела, створюючи серйозну проблему для бібліотекарів та установ, відповідальних за надання точних даних. Основна проблема полягає в тому, що ці інструменти штучного інтелекту завжди дають відповідь, навіть якщо реальної інформації немає – вони просто вигадують деталі, які здаються правдоподібними.
Наростає хвиля дезінформації, створеної ШІ
За словами Сари Фоллз, бібліотекаря дослідницьких запитів у Бібліотеці Вірджинії, близько 15% запитів, які отримують її співробітники, тепер написані ШІ. Ці запити часто включають повністю фіктивні цитати та джерела, що змушує бібліотекарів витрачати додатковий час на перевірку (або спростування) тверджень. Проблема не просто дратує; це є фундаментальною вадою сучасного технологічного підходу до відкриття знань.
Міжнародний Комітет Червоного Хреста (МКЧХ) публічно попередив про цю проблему, заявивши, що інструменти ШІ не можуть розпізнати, коли історичні джерела є неповними; замість цього вони складають деталі.
Тепер МКЧХ радить користувачам звертатися безпосередньо до його офіційних каталогів і наукових архівів, а не покладатися на списки, створені ШІ. Це підкреслює ширшу стурбованість: поки штучний інтелект не стане надійнішим, тягар перевірки фактів ляже прямо на плечі людей, які працюють в архівах.
Чому це важливо
Ця тенденція важлива з кількох причин. По-перше, він підкреслює обмеження поточних генеративних моделей ШІ. Ці системи призначені для створення контенту, а не для його перегляду. По-друге, це накладає надмірне навантаження на і без того перевантажені бібліотечні ресурси. Як зазначає Фолс, незабаром інституції можуть бути змушені обмежити кількість часу, який вони витрачають на перегляд інформації, створеної ШІ, через її величезний обсяг.
Нарешті, ця ситуація підтверджує постійну цінність людського досвіду. На відміну від штучного інтелекту, бібліотекарі навчені мислити критично, проводити ретельний пошук і, що важливо, визнавати, коли вони не знають відповіді. Це основний принцип надійного управління інформацією, якого зараз не вистачає ШІ.
Надмірна залежність від контенту, створеного штучним інтелектом, без критичної оцінки й надалі буде обтяжувати бібліотекарів та інших інформаційних спеціалістів. Рішення полягає не в тому, щоб відмовлятися від штучного інтелекту, а в тому, щоб зрозуміти його обмеження та надати пріоритет людському контролю, поки технологія не покращиться.
