Великі мовні моделі (LLM) – наприклад, ті, що використовуються в чат-ботах – мають тривожну тенденцію до галюцинацій. Тобто генерувати неправдивий контент, який вони видають за достовірний. Ці галюцинації штучного інтелекту становлять, серед інших ризиків, пряму загрозу науці та науковій істині, попереджають дослідники з Оксфордського інституту Інтернету.
Згідно з їхньою статтею, опублікованою в журналі Nature Human Behaviour, “LLMs призначені для створення корисних і переконливих відповідей без будь-яких переважних гарантій щодо їхньої точності або відповідності фактам”. Наразі LLMs розглядаються як джерела знань і генерують інформацію у відповідь на запитання або підказки. Але дані, на яких вони навчаються, не обов’язково відповідають дійсності. Однією з причин цього є те, що ці моделі часто використовують онлайн-джерела, які можуть містити неправдиві твердження, думки та неточну інформацію.
“Люди, які використовують LLM, часто антропоморфізують технологію, де вони довіряють їй як людиноподібному джерелу інформації”, – пояснив професор Брент Міттельштадт, співавтор статті. “Частково це пов’язано з тим, що LLMs створюються як корисні агенти, які спілкуються з користувачами і відповідають, здавалося б, на будь-яке питання впевненим, добре написаним текстом. В результаті цього користувачі можуть легко переконатися, що відповіді є точними, навіть якщо вони не мають під собою жодних підстав або представляють упереджену чи часткову версію правди”.
Коли йдеться про науку та освіту, точність інформації має життєво важливе значення, і дослідники закликають наукову спільноту використовувати LLM як “перекладачів з нульового пострілу”. Це означає, що користувачі повинні надавати моделі відповідні дані іґ просити трансформувати їх, наприклад, у висновок або код – замість того, щоб покладатися на саму модель як на джерело знань. Таким чином, стає легше перевірити, чи результат є фактично правильним і відповідає наданим вхідним даним.
На думку оксфордських професорів, LLM безсумнівно допоможуть у науковому процесі. Але для спільноти вкрай важливо використовувати їх відповідально і підтримувати чіткі очікування щодо того, який внесок вони можуть зробити.
