BibleHub: Видаліть ШІ-контент ("словесний фарш")

Автор відкритого листа, давній користувач та платний підписник BibleHub.com, висловив глибоке занепокоєння щодо використання генеративного штучного інтелекту (GenAI) для створення контенту на сайті. За його словами, під час дослідження для своєї нової книги про ШІ, він помітив, що розділ «Topical Lexicon» «пахне як згенерований LLM словесний фарш».

Виявлення «словесного фаршу»

Автор, який багато років користувався ресурсами BibleHub.com для вивчення Біблії, цінував його за чистий інтерфейс, швидку навігацію до оригінальних мов, паралельні версії Біблії та корисні коментарі. Однак, виявивши підозрілий контент, він не знайшов жодних згадок про авторство чи використання GenAI. Після звернення до служби підтримки BibleHub.com, йому підтвердили, що GenAI використовується для більшості записів у «Topical Lexicon».

Метафора «словесного фаршу»

Автор назвав згенерований LLM контент «словесним фаршем», порівнюючи його з ультра-обробленими м'ясними ковбасами, які містять інгредієнти, про які споживач не хоче знати. За його словами, LLM-генеровані слова звучать правдоподібно, але їм бракує істинного розуміння та глибини, що є критичним для біблійних досліджень.

Неефективність вичитування

Хоча служба підтримки BibleHub.com заявила, що вони вичитують та редагують весь контент перед публікацією, автор стверджує, що це неефективно. Він порівнює це зі спробою витягти погані інгредієнти з ковбаси після того, як вони пройшли через м'ясорубку. Згенеровані LLM слова формують розмову, задають тон, стиль, напрямок та мету, ставлячи редакторів у невигідне становище.

Відмінність між людиною та ШІ

Автор відкидає аргумент, що «люди-автори також роблять помилки», підкреслюючи, що люди не є машинами. Людські автори розуміють, про що говорять, тоді як LLM не мають розуміння значення жодного слова; вони лише передбачають, який токен найімовірніше слідує за попереднім, що не веде до істини. Він також посилається на рекомендації видавництва «Chicken Soup for the Soul», які прямо забороняють використання ШІ, заявляючи, що він «не робить краще. Він робить гірше».

Приклади проблемного контенту

Автор наводить кілька прикладів з «Topical Lexicon» BibleHub.com, щоб проілюструвати свої занепокоєння:

Аналіз «Основної ідеї» для слова «chanak» (Приповісті 22:6): Запис для єврейського слова «chanak» (навчати, присвячувати) об'єднує ідеї «ініціації, освячення та дисциплінованої підготовки», порівнюючи серце дитини з будинком або храмом. Автор вважає це «дегуманізуючим» та небезпечним, оскільки ШІ не розуміє різниці між об'єктами та людськими серцями.
Проблеми з «Довічним навчанням та моральним формуванням»: У цьому розділі стверджується, що слово «chanak» «зміщується від присвячення будівель до формування життів». Автор зазначає, що слова самі по собі не «зміщуються», і це формулювання є «безглуздим, але слизьким», а також дегуманізуючим, порівнюючи людей з неживими об'єктами.
Неточність у «Теологічних патернах»: Запис містить твердження, що «справжня ініціація передбачає наполегливість. Приповісті 22:6 виходить за межі церемоніального моменту до життєвої траєкторії, передбачаючи новозавітну тему наполегливості в благодаті (Филип'ян 1:6)». Автор називає це «глибоким, як печиво з передбаченням», неточним та необґрунтованим, оскільки Филип'ян 1:6 стосується Божої роботи, а не наполегливості християн.

Наслідки для майбутніх поколінь

Автор висловлює серйозне занепокоєння щодо шкоди для майбутніх церковних лідерів, студентів Біблії та вчених, які довіряють BibleHub.com. Він побоюється, що вони можуть поширювати «забруднені» LLM-генеровані слова, що призведе до деградації якості біблійного навчання та поширення неправдивих уявлень про Писання.

Заклик до дій

Автор закликає BibleHub.com видалити весь контент, згенерований LLM, зі свого вебсайту. Він вважає, що компанія була «обдурена» обіцянками ефективності GenAI. У разі видалення ШІ-контенту, автор обіцяє знову підписатися на сервіс та активно його просувати.

Що це означає для розробників

Ця новина вказує на ризики використання генеративного ШІ для створення авторитетного або чутливого контенту. Розробникам слід враховувати, що навіть ретельне вичитування може бути недостатнім для виправлення фундаментальних неточностей або спотворень, внесених ШІ, що може призвести до втрати довіри користувачів.

Ключові факти

Автор листа, давній користувач BibleHub.com, виявив, що розділ "Topical Lexicon" містить контент, згенерований ШІ.
Служба підтримки BibleHub.com підтвердила використання генеративного ШІ для більшості записів у "Topical Lexicon".
Автор ввів термін "словесний фарш" для опису згенерованого ШІ тексту, який звучить правдоподібно, але не має глибокого розуміння чи істини.
Навіть вичитування та редагування не можуть усунути фундаментальні проблеми згенерованого ШІ контенту, оскільки він формує тон і напрямок.
Автор наводить конкретні приклади неточностей та "дегуманізуючих" порівнянь у згенерованих ШІ записах BibleHub.com, зокрема щодо слова "chanak" (Приповісті 22:6).