Південно-Африканська Республіка офіційно відкликала проект національної політики в галузі штучного інтелекту після того, як розслідування показало, що кілька академічних цитат у документі було повністю сфабриковано ІІ.
Рішення, оголошене міністром зв’язку Соллі Малаці, було ухвалено після виявлення того, що політика, покликана визначити технологічне майбутнє країни, була скомпрометована галюцинаціями. Це феномен, у якому генеративний ІІ створює правдоподібну, але неіснуючу інформацію.
Криза довіри
Проект політики спочатку замислювався для того, щоб затвердити ПАР у ролі регіонального лідера в галузі інновацій ІІ. Він пропонував комплексну нормативно-правову базу, включаючи:
– Створення національної комісії з ІІ.
– Формування ради з етики ІІ.
– Установа регуляторного органу у сфері ІІ.
– Фінансові стимули, такі як податкові пільги та гранти, для заохочення інвестицій приватного сектора в інфраструктуру ІІ.
Проте авторитет документа був підірваний, коли журналісти видання News24 виявили, що як мінімум шість із 67 академічних цитат, використаних для обґрунтування положень політики, не існують у реальності. Хоча згадані журнали – такі як South African Journal of Philosophy та AI & Society – є легітимними, редактори цих видань підтвердили, що цитовані статті були вигадані.
Чому це важливо: проблема «галюцинацій»
Цей інцидент є резонансним прикладом зростаючої проблеми в епоху великих мовних моделей (LLM). Такі інструменти, як ChatGPT і Google Gemini, призначені для передбачення найбільш статистично можливого наступного слова в послідовності, а не для перевірки фактів. Коли ці моделі стикаються з пробілами у своїх навчальних даних, вони часто «заповнюють порожнечі» інформацією, яка звучить авторитетно, але є хибною.
Це не поодинокий випадок. Наслідки для академічного середовища та державного управління дуже значні:
– Зростання частоти помилок: Дослідження в журналі Nature відзначило різке збільшення кількості помилок, створених ІІ: частка наукових праць, що містять «галюциновані» цитати, підскочила з 0,3% у 2024 році до більш ніж 2,5% у 2025 році.
– Масштаб наслідків: За оцінками, у 2025 році було опубліковано близько 110 000 робіт, що містять недійсні посилання.
– Інституційний ризик: Коли політики покладаються на неперевірені результати роботи ІІ, вони ризикують будувати державні закони на основі дезінформації.
Подальші кроки
Міністр Малаці наголосив, що це не просто технічний збій, а фундаментальний провал системи контролю.
«Цей провал – не просто технічна проблема; він підірвав цілісність та авторитет проекту політики», — заявив Малаці у соціальній мережі X (колишній Twitter).
Міністр зазначив, що винні у помилці під час підготовки документа відповідають, і підкреслив, що політика пройде процес ретельної переробки, перш ніж буде знову представлена на громадське обговорення.
Висновок
Відкликання політики в галузі ІІ в Південній Африці є суворим попередженням для урядів та інституцій по всьому світу: хоча ІІ може прискорити процес підготовки документів, він не може замінити потребу в суворій перевірці людиною, яка необхідна для забезпечення точності та інституційної довіри.
