Перевірка фактів у текстах, написаних ШІ

Генеративні моделі швидко пишуть корпоративні тексти, і зазвичай охайно. Ризик не в тому, що текст поганий, а в тому, що в нього потрапляє речення, яке має правдоподібний вигляд, але не має джерела. Фрази на кшталт «лідер галузі», «тисячі клієнтів» чи «40 років від заснування» з’являються миттєво, і ніхто не питає, звідки вони взялися.

У Туреччині це питання не лише репутації, а й регулювання. Регламент про комерційну рекламу та недобросовісну комерційну практику прямо забороняє твердження про перевагу, які неможливо довести, і вигадані відгуки. Хто написав текст - людина чи модель - цієї відповідальності не змінює.

На практиці проблему розв’язує одне правило в робочому процесі: цифра, дата, звання чи відгук потрапляють у текст, лише якщо спираються на джерело. Немає джерела, немає й речення; замість нього залишають позначку «не знайдено» і запитують клієнта. Це правило скорочує текст, зате робить його обґрунтованим.

Друге правило: модель не перевіряє власний результат. Якщо запитати ту саму модель «це правильно?», вона просто вдруге видасть те саме припущення. Перевірка має спиратися на незалежне джерело: власний документ компанії, офіційний реєстр, звіт із вимірюваннями.

Третє правило: залишати слід. Якщо фіксувати, яке речення взято з якого документа, то через пів року на запитання «звідки ми це взяли?» можна відповісти за хвилину. Інакше текст перетворюється на купу тверджень, що загубили власні джерела.